O cofundador e CEO da OpenAI, Sam Altman, admitiu que o avanço da inteligência artificial poderá provocar consequências negativas, mas afirmou que a sociedade terá de aceitar que “algumas coisas ruins” aconteçam diante dos benefícios proporcionados pela tecnologia.
A declaração foi feita durante uma entrevista ao podcast “Decoded”, do site Politico, na qual Altman falou sobre regulamentação, segurança e os riscos associados ao desenvolvimento cada vez mais acelerado dos sistemas de IA.
“Acreditamos que o mundo deve aceitar que algumas coisas ruins aconteçam em troca dos benefícios que essa tecnologia proporciona e da autonomia que oferece às pessoas”, afirmou Altman.
A declaração surgiu quando o CEO foi questionado sobre a defesa de regras mais rígidas para o desenvolvimento da inteligência artificial e sobre a recente aproximação entre a OpenAI e uma de suas principais concorrentes, a Anthropic, liderada por Dario Amodei.
Altman defende regulamentação para riscos catastróficos
Apesar de a OpenAI defender maior regulamentação para o setor, Altman deixou claro que isso não significa, em sua visão, impor limites amplos ao que as pessoas podem fazer com a inteligência artificial.
Para o executivo, as regras deveriam se concentrar nos “riscos realmente catastróficos” associados à tecnologia.
Altman argumentou que, de maneira geral, os usuários das ferramentas de inteligência artificial são capazes de fazer “muito mais coisas boas do que coisas ruins”.
O CEO da OpenAI também alertou para outro risco: uma regulamentação excessivamente restritiva acabar concentrando o controle da inteligência artificial nas mãos de poucas empresas, indivíduos ou até mesmo de um único país.
“Se restringirmos demais essa tecnologia em nome da segurança e acabarmos com um pequeno número de empresas ou pessoas, ou talvez um país, com poder demais sobre ela, isso também pode dar terrivelmente errado”, afirmou Altman.
A posição apresentada pelo executivo busca diferenciar a regulamentação de riscos extremos de medidas que poderiam restringir de maneira mais ampla o acesso e o desenvolvimento da tecnologia.
OpenAI demite três pesquisadores por informações confidenciais
As declarações de Altman surgem em um momento em que a OpenAI também enfrenta questionamentos relacionados às suas políticas internas de segurança.
Segundo o The Wall Street Journal, a empresa afastou três pesquisadores de sua equipe dedicada à segurança por supostamente compartilharem informações confidenciais com organizações externas que atuam na área de segurança da inteligência artificial.
A OpenAI não revelou os nomes dos funcionários, quais organizações teriam recebido as informações nem o conteúdo do material compartilhado.
“Desligamos três pessoas por violarem nossas políticas de acesso e tratamento de informações confidenciais da empresa”, afirmou a OpenAI em comunicado enviado ao jornal.
“Nossa investigação confirmou que essas pessoas trataram de forma inadequada informações confidenciais fora dos procedimentos estabelecidos pela empresa, violando nossas políticas e quebrando a confiança essencial para o nosso trabalho”, acrescentou.
Não está claro por que os três pesquisadores teriam compartilhado as informações. Uma das hipóteses mencionadas após a divulgação do caso é que eles poderiam ter preocupações relacionadas à maneira como a OpenAI desenvolve seus modelos de inteligência artificial, mas não houve confirmação pública dessa motivação.
Empresa já demitiu pesquisadores por vazamentos
De acordo com o TechCrunch, não é a primeira vez que a OpenAI afasta funcionários por suposto compartilhamento indevido de informações internas.
Em 2024, dois pesquisadores também foram demitidos depois de serem apontados como responsáveis por vazamentos de informações confidenciais.