Gigantes da IA firmam novos compromissos de segurança
Mais de uma dúzia das maiores empresas de inteligência artificial do mundo se comprometeram a novas medidas de segurança durante a cúpula global realizada em Seul
As principais empresas de inteligência artificial do mundo, incluindo OpenAI, Google DeepMind e Anthropic, anunciaram novos compromissos de segurança durante a cúpula de IA em Seul. Essas medidas visam aumentar a transparência e a responsabilidade no desenvolvimento de IA.
Publicação de Avaliações de Riscos
As empresas concordaram em divulgar os métodos que utilizam para identificar e avaliar riscos em suas tecnologias de IA. Isso garante que os processos de avaliação de segurança sejam conhecidos e possam ser monitorados.
Identificação de Riscos Intoleráveis
Serão especificados os riscos considerados inaceitáveis, como o potencial uso mal-intencionado de IA para criar deepfakes ou disseminar desinformação. As empresas se comprometeram a não desenvolver ou usar sistemas de IA que não possam mitigar esses riscos.
Investimento em Segurança e Pesquisa
Haverá um aumento no investimento em segurança cibernética e na pesquisa sobre os impactos sociais da IA, para garantir que essas tecnologias sejam desenvolvidas de maneira responsável e segura.
O primeiro-ministro do Reino Unido, Rishi Sunak, afirmou que esses compromissos estabelecem um precedente para padrões globais de segurança em IA, essenciais para desbloquear os benefícios dessa tecnologia transformadora.
A cúpula de Seul segue o encontro realizado no Bletchley Park, no Reino Unido, em novembro de 2023. As discussões continuarão em uma cúpula na França em 2025, com o objetivo de transformar declarações em planos de ação concretos, abordando impactos sociais como deslocamento de trabalhadores e a divisão digital.
IA vai revolucionar entendimento sobre as doenças em até cinco anos (oantagonista.com.br)
Sensores em celulares podem virar câmeras clandestinas (oantagonista.com.br)
