SEOUL, Coreia do Sul (AP) - Principais empresas de inteligência artificial fizeram um novo compromisso em uma mini-cúpula na terça-feira para desenvolver a IA de forma segura, enquanto os líderes mundiais concordaram em construir uma rede de institutos de segurança apoiados pelo governo para avançar a pesquisa e teste da tecnologia.

O Google, Meta e OpenAI estavam entre as empresas que fizeram compromissos voluntários de segurança na AI Seoul Summit, incluindo desligar seus sistemas de ponta se não conseguirem controlar os riscos mais extremos.

A reunião de dois dias é um acompanhamento à AI Safety Summit de novembro no Bletchley Park, no Reino Unido, e ocorre em meio a uma série de esforços de governos e organismos globais para projetar barreiras para a tecnologia, diante dos temores sobre os riscos que ela representa, tanto para a vida cotidiana quanto para a humanidade.

Líderes de 10 países e da União Europeia irão "forjar uma compreensão comum sobre a segurança da IA e alinhar seu trabalho na pesquisa de IA," disse o governo britânico, que co-hospedou o evento, em um comunicado. A rede de institutos de segurança incluirá os já criados pelo Reino Unido, EUA, Japão e Singapura desde a reunião de Bletchley, disseram eles.

O Secretário-Geral da ONU, Antonio Guterres, disse na sessão de abertura que sete meses após a reunião de Bletchley Park "Estamos vendo avanços tecnológicos que mudam a vida e novos riscos potencialmente letais - desde desinformação até vigilância em massa até a perspectiva de armas autônomas letais."

O chefe da ONU disse em um discurso em vídeo que é necessário haver barreiras universais e diálogo regular sobre a IA. "Não podemos nos encaminhar para um futuro distópico onde o poder da IA seja controlado por poucas pessoas - ou pior, por algoritmos além do entendimento humano," disse ele.

As 16 empresas de IA que assinaram os compromissos de segurança também incluem Amazon, Microsoft, Samsung, IBM, xAI, a francesa Mistral AI, a chinesa Zhipu.ai e G42 dos Emirados Árabes Unidos. Eles prometeram garantir a segurança de seus modelos de IA mais avançados com promessas de governança responsável e transparência pública.

Não é a primeira vez que empresas de IA fizeram compromissos de segurança voluntários que soam grandiosos. Amazon, Google, Meta e Microsoft estavam entre um grupo que assinou no ano passado salvaguardas voluntárias intermediadas pela Casa Branca para garantir que seus produtos sejam seguros antes de lançá-los.

A reunião de Seoul ocorre à medida que algumas dessas empresas lançam as últimas versões de seus modelos de IA.

O compromisso de segurança inclui a publicação de frameworks que estabelecem como as empresas vão medir os riscos de seus modelos. Em casos extremos onde os riscos são graves e "intoleráveis," as empresas de IA terão que pressionar o botão de desligamento e parar de desenvolver ou implantar seus modelos e sistemas se não conseguirem mitigar os riscos.

Desde a reunião no Reino Unido no ano passado, a indústria de IA "tem se concentrado cada vez mais nas preocupações mais urgentes, incluindo desinformação, segurança de dados, viés e manutenção de humanos no processo," disse Aiden Gomez, CEO da Cohere, uma das empresas de IA que assinaram o pacto. "É essencial que continuemos a considerar todos os possíveis riscos, priorizando nossos esforços naqueles mais propensos a criar problemas se não forem tratados adequadamente."

Governos ao redor do mundo têm se esforçado para formular regulamentações para a IA, mesmo quando a tecnologia avança rapidamente e está prestes a transformar muitos aspectos da vida diária, desde educação e trabalho até direitos autorais e privacidade. Há preocupações de que avanços em IA possam eliminar empregos, espalhar desinformação ou ser usados para criar novas armas biológicas.

A reunião desta semana é apenas um dos muitos esforços sobre governança da IA. A Assembleia Geral da ONU aprovou sua primeira resolução sobre o uso seguro de sistemas de IA, enquanto os EUA e a China recentemente realizaram suas primeiras conversas de alto nível sobre IA e o ato pioneiro sobre IA da União Europeia está prestes a entrar em vigor ainda este ano.

__

Chan contribuiu para este relatório de Londres. A escritora da Associated Press, Edith M. Lederer, contribuiu das Nações Unidas.