As principais empresas de inteligência artificial do mundo, incluindo OpenAI, Google DeepMind e Anthropic, anunciaram novos compromissos de segurança durante a cúpula de IA em Seul. Essas medidas visam aumentar a transparência e a responsabilidade no desenvolvimento de IA.

Publicação de Avaliações de Riscos
As empresas concordaram em divulgar os métodos que utilizam para identificar e avaliar riscos em suas tecnologias de IA. Isso garante que os processos de avaliação de segurança sejam conhecidos e possam ser monitorados.

Identificação de Riscos Intoleráveis
Serão especificados os riscos considerados inaceitáveis, como o potencial uso mal-intencionado de IA para criar deepfakes ou disseminar desinformação. As empresas se comprometeram a não desenvolver ou usar sistemas de IA que não possam mitigar esses riscos.

Investimento em Segurança e Pesquisa
Haverá um aumento no investimento em segurança cibernética e na pesquisa sobre os impactos sociais da IA, para garantir que essas tecnologias sejam desenvolvidas de maneira responsável e segura.

O primeiro-ministro do Reino Unido, Rishi Sunak, afirmou que esses compromissos estabelecem um precedente para padrões globais de segurança em IA, essenciais para desbloquear os benefícios dessa tecnologia transformadora.

A cúpula de Seul segue o encontro realizado no Bletchley Park, no Reino Unido, em novembro de 2023. As discussões continuarão em uma cúpula na França em 2025, com o objetivo de transformar declarações em planos de ação concretos, abordando impactos sociais como deslocamento de trabalhadores e a divisão digital.

IA vai revolucionar entendimento sobre as doenças em até cinco anos (oantagonista.com.br)

Sensores em celulares podem virar câmeras clandestinas (oantagonista.com.br)

Nunca foi tão fácil estar bem informado Siga nosso canal no WhatsApp

Inscreva-se