6 min para ler
CESAR .
2023-05-26T00:00:00
Tecnologia
Desafios e promessas para a era da IA Generativa
Há uma cacofonia de vozes especializadas expressando profundas preocupações sobre os possíveis danos à humanidade devido à aceleração rápida da IA. Mas, há quem veja um grande potencial em benefícios.
No Dia do Trabalho (1º de maio), o pioneiro da IA, Dr. Geoffrey Hinton – conhecido como o “Padrinho da IA” e uma das vozes mais respeitadas no campo -, deixou seu cargo no Google para poder alertar o mundo sobre os perigos do rápido avanço da Inteliência Artificial em um curto período de tempo.
Durante meio século, o Dr. Hinton dedicou seu trabalho de vida ao desenvolvimento da tecnologia no cerne de chatbots como o ChatGPT, então foi um tanto chocante vê-lo se juntar a muitos outros denunciando a rapidez das guerras da IA generativa, como os muitos líderes da indústria de tecnologia que assinaram uma carta aberta após o lançamento do ChatGPT mais recente da OpenAI, em março, pedindo uma pausa de seis meses no desenvolvimento de novos sistemas, porque a tecnologia de IA “representa um risco profundo para a sociedade e a humanidade”.
Devido a uma “corrida armamentista” entre gigantes da tecnologia – especialmente Google x Microsoft e OpenAI -, Hinton e outros têm várias preocupações, incluindo o potencial para a nova tecnologia perturbar o mercado de trabalho, causar disputas de propriedade intelectual ou, à medida que a tecnologia avança, ter novos sistemas avançados de IA gerando e executando seu próprio código – tornando realidade filmes de ficção científica como a franquia “O Exterminador do Futuro”.
Uma preocupação mais imediata é que “a internet será inundada com fotos, vídeos e textos falsos, e a pessoa comum ‘não será capaz de saber o que é verdadeiro'”, de acordo com Geoffrey Hinton.
Avaliando os desafios juntamente com a promessa da IA generativa
“Eu acredito que o Dr. Hinton e outros especialistas em IA têm o direito de se preocupar. Eu entendo isso, e acredito que nós também devemos estar preocupados”, disse H.D. Mabuse, designer sênior no CESAR e professor de filosofia na CESAR School, além de ser um artista visual e músico. “Esses desafios e a capacidade de fazer ajustes para reduzir qualquer dano precisam ser abordados de forma multifacetada, envolvendo líderes da indústria tecnológica, academia e governo para regulamentá-lo.”
Mabuse acredita que o melhor caminho a seguir deve envolver pelo menos três abordagens:
1) Devemos desenvolver projetos em IA de maneira socialmente responsável, tanto no nível da indústria quanto na forma como ensinamos os alunos em instituições de ensino superior como a CESAR School. Para que essa tecnologia seja projetada de maneira cuidadosa e segura, é necessário incorporar mais treinamento ético e garantir maior diversidade entre aqueles que a desenvolvem.
2) Em segundo lugar, a indústria tecnológica e o governo devem se unir para discutir, colaborar e encontrar novas maneiras de adicionar mais diretrizes e regulamentações, a fim de garantir o melhor resultado para a sociedade e a humanidade.
3) Por fim, do ponto de vista individual, precisamos nos educar e estarmos mais atentos para identificar a desinformação, e considerarmos o conteúdo fornecido por ferramentas de IA generativa com alguma suspeita, assim como estamos aprendendo a fazer com o conteúdo que consumimos na internet e nas redes sociais.
Mabuse também vê boas promessas nessa nova era da inteligência artificial generativa. Por exemplo, ele fala e escreve sobre o efeito de democratização da nova tecnologia, incluindo o Pina, bairro da Zona Sul do Recife, onde artistas estão produzindo “incríveis” vídeos de hip-hop usando tecnologias que fazem uso de IA. “Eles podem fazer música e lançar novos vídeos em questão de 30 minutos”, disse ele. “E é maravilhoso ver uma comunidade afrocentrada criar arte tão fantástica, trazendo para si o uso desses algoritmos.”
“Todo mundo tem um tio ou tia que tem muito medo de novas tecnologias”, diz Mabuse. “Eu acredito que a chave para o momento em que estamos vivendo hoje, com essa IA avançada, é evitar a tecnofobia, mas também ter cautela com a tecnologia. No entanto, minha crença pessoal é que o desenvolvimento responsável de novas tecnologias, com o entendimento das relações sociais atribuídas a elas, é uma porta de entrada para muitas coisas novas.”
A ideia da promessa que esse progresso tecnológico pode trazer
Ao falar sobre o conceito de “Design está no DNA do CESAR”, Mabuse cita os diversos projetos de P&D em fila na respeitada instituição hoje, que são baseados em colaboração e cocriação com usuários finais, clientes e parceiros. Ao fazer isso, ele destaca a metodologia de três etapas do CESAR, que primeiro identifica um conjunto de oportunidades, pontos problemáticos e motivações por meio de pesquisas aprofundadas e, em seguida, passa para uma fase de capacitação de ideação, seleção e validação para resolver desafios e otimizar benefícios. “É assim que estamos abordando essa nova era do IA generativa hoje”, disse ele.
Nós reconhecemos o valor estratégico do Design e o seu potencial transformador. Nossa forma de inovar é inspirada no processo Double Diamond, uma abordagem clássica da disciplina. Com mais de duas décadas de experiência na solução de problemas complexos, o CESAR desenvolveu uma abordagem prática que dá origem a um terceiro diamante que completa nossa metodologia única.
“O passo final e objetivo máximo do CESAR é criar o que chamamos de artefatos como resultado de nossa metodologia”, disse Mabuse. Esse termo vem da definição de um objeto ou item que possui significado histórico, cultural ou artístico. Eles são tipicamente criados por humanos ou designados como valiosos por humanos – e servem como uma representação física ou evidência de civilizações, sociedades ou indivíduos do passado.
“Nosso objetivo final no CESAR é ajudar a sociedade em geral a compreender os muitos desafios e implicações desta nova era da IA, na qual estamos entrando rapidamente, e ajudar a cocriar novas abordagens para enfrentá-los com nossa extensa rede de acadêmicos, parceiros e clientes na região e globalmente, e desempenhar um papel importante em ser uma força positiva à medida que essa tecnologia continua a avançar nas próximas décadas”, disse Mabuse.