Google, OpenAI, Meta, xAI, Anthropic y Nvidia han acordado introducir nuevos controles y auditorías independientes.
Los directivos de seis de las principales empresas de inteligencia artificial con sede en Estados Unidos firmaron el martes en la Casa Blanca un compromiso para introducir controles más estrictos que garanticen que su tecnología no se descontrole.
El documento, titulado Acuerdo de la Casa Blanca sobre Superinteligencia: Compromiso Conjunto sobre Responsabilidades Fronterizas, fue firmado por el presidente estadounidense Donald Trump, así como por Sundar Pichai de Google, Dario Amodei de Anthropic, Mark Zuckerberg de Meta, Greg Brockman de OpenAI, Elon Musk de xAI y Jensen Huang de Nvidia.
Los firmantes acordaron que toda empresa que desarrolle modelos avanzados de inteligencia artificial debería contar con "procesos y controles internos sólidos para garantizar que su tecnología funcione según lo previsto y que cualquier problema se identifique y resuelva con prontitud".
Las empresas se comprometieron a garantizar que sus modelos "no pirateen ni accedan a sistemas técnicos de forma no autorizada" y afirmaron que "capacitarían a un equipo interno para garantizar que todos los controles, la monitorización y la detección funcionen según lo previsto, y que se solucionen los problemas que surjan".
También se comprometieron a permitir auditorías externas independientes de sus medidas de seguridad y a designar un "comité independiente del consejo de administración" para evaluar el cumplimiento.
El acuerdo tiene como objetivo abordar las preocupaciones de los desarrolladores y del público en general sobre la capacidad de los modelos de IA para auto-mejorarse mucho más rápido de lo esperado y el creciente número de casos en los que han pirateado sistemas externos sin autorización.
“La idea fundamental es que queremos dar al pueblo estadounidense y a nuestros clientes la confianza de que la tecnología funciona de la manera prevista”, dijo Zuckerberg a los periodistas en el jardín de la Casa Blanca.
“ La idea no es que esto sea lo único que vayamos a hacer. Es un comienzo y un acuerdo al que puede llegar toda la industria”, añadió.
Durante la misma reunión, Trump firmó una orden ejecutiva que instruye al gobierno federal a utilizar los términos "superinteligencia" e "SI" en lugar de "inteligencia artificial" e "IA".
“El nombre Superinteligencia transmite las verdaderas capacidades de las tecnologías que se están desarrollando hoy en día, desbloqueando nuevas formas de creatividad humana y capacitando a los estadounidenses para lograr lo que antes era imposible, y no simplemente imitando o automatizando la inteligencia humana, como implica el término 'Inteligencia Artificial'”, dijo la Casa Blanca.
El debate sobre las medidas de seguridad de la IA se reavivó este mes cuando Amodei pidió ralentizar el desarrollo de los modelos de IA para encontrar un ritmo equilibrado que diera tiempo a los investigadores para desarrollar los controles necesarios. Musk y el director ejecutivo de OpenAI, Sam Altman, respaldaron rápidamente su petición.
Durante el verano, agentes de OpenAI escaparon de su entorno de pruebas y hackearon los servidores de Hugging Face, un repositorio en línea de modelos y conjuntos de datos de IA. Desde entonces, agentes de IA han obtenido acceso no autorizado o intentado vulnerar sitios web pertenecientes a agencias federales estadounidenses, al gobierno australiano y a la ONU.
PRÓXIMAMENTE MÁS DETALLES
No hay comentarios:
Publicar un comentario