SEOUL, Coréia do Sul (AP) - As principais empresas de inteligência artificial fizeram um novo compromisso em uma mini-cúpula na terça-feira para desenvolver a IA de forma segura, enquanto líderes mundiais concordaram em construir uma rede de institutos de segurança apoiados publicamente para avançar na pesquisa e teste da tecnologia.
O Google, Meta e OpenAI estavam entre as empresas que fizeram compromissos voluntários de segurança na Cúpula de IA de Seul, incluindo desligar seus sistemas de ponta se não conseguirem controlar os riscos mais extremos.
A reunião de dois dias é um acompanhamento à Cúpula de Segurança da IA de novembro no Parque de Bletchley, no Reino Unido, e ocorre em meio a uma série de esforços de governos e entidades globais para projetar guardrails para a tecnologia diante dos temores sobre o risco potencial que ela representa tanto para a vida cotidiana quanto para a humanidade.
Líderes de 10 países e da União Europeia irão "forjar um entendimento comum sobre a segurança da IA e alinhar seu trabalho na pesquisa de IA", disse o governo britânico, que co-organizou o evento, em um comunicado. A rede de institutos de segurança incluirá aqueles já estabelecidos pelo Reino Unido, EUA, Japão e Cingapura desde a reunião de Bletchley, afirmou.
O Secretário-Geral das Nações Unidas, Antonio Guterres, disse na sessão de abertura que sete meses após a reunião de Bletchley, “estamos vendo avanços tecnológicos que mudam a vida e novos riscos ameaçadores - desde desinformação até vigilância em massa até a perspectiva de armas autônomas letais.”
O chefe da ONU disse em uma mensagem em vídeo que é necessário haver guarda-chuvas universais e diálogo regular sobre a IA. “Não podemos caminhar para um futuro distópico onde o poder da IA é controlado por poucas pessoas - ou pior, por algoritmos além da compreensão humana”, disse ele.
As 16 empresas de IA que assinaram os compromissos de segurança incluem Amazon, Microsoft, Samsung, IBM, xAI, a francesa Mistral AI , a chinesa Zhipu.ai e G42 dos Emirados Árabes Unidos . Eles prometeram garantir a segurança de seus modelos de IA mais avançados com promessas de governança responsável e transparência pública.
Não é a primeira vez que empresas de IA fizeram compromissos de segurança pomposos, mas não vinculativos. Amazon, Google, Meta e Microsoft estavam entre um grupo que assinou no ano passado salvaguardas voluntárias intermediadas pela Casa Branca para garantir que seus produtos sejam seguros antes de lançá-los.
A reunião de Seul ocorre à medida que algumas dessas empresas lançam as últimas versões de seus modelos de IA .
O compromisso de segurança inclui a publicação de estruturas definindo como as empresas medirão os riscos de seus modelos. Em casos extremos em que os riscos são graves e “intoleráveis”, as empresas de IA terão que acionar o interruptor de desligamento e parar de desenvolver ou implantar seus modelos e sistemas se não puderem mitigar os riscos.
Desde a reunião do Reino Unido no ano passado, a indústria de IA “tem se concentrado cada vez mais nas preocupações mais prementes, incluindo desinformação, segurança de dados, viés e manter os humanos no controle”, disse Aiden Gomez CEO da Cohere, uma das empresas de IA que assinou o pacto. “É essencial que continuemos a considerar todos os riscos possíveis, priorizando nossos esforços naqueles mais propensos a causar problemas se não forem adequadamente abordados.”
Governos de todo o mundo têm se esforçado para formular regulamentações para a IA, mesmo que a tecnologia avance rapidamente e esteja prestes a transformar muitos aspectos da vida cotidiana, desde educação e local de trabalho até direitos autorais e privacidade. Há preocupações de que os avanços em IA possam eliminar empregos, espalhar desinformação ou ser usados para criar novas armas biológicas.
A reunião desta semana é apenas um dos muitos esforços sobre governança da IA. A Assembléia Geral da ONU aprovou sua primeira resolução sobre o uso seguro de sistemas de IA, enquanto os EUA e a China recentemente realizaram suas primeiras conversas de alto nível sobre IA e o AI Act da União Europeia, pioneiro mundial, está prestes a entrar em vigor ainda este ano.
__
Chan contribuiu para este relatório a partir de Londres. A escritora da Associated Press, Edith M. Lederer, contribuiu das Nações Unidas.
