Mark Zuckerberg se distanció de los pedidos para desacelerar de manera coordinada el desarrollo de la inteligencia artificial y defendió un modelo en el que cada laboratorio asuma individualmente la responsabilidad de avanzar únicamente cuando considere que sus sistemas son seguros.
El CEO de Meta expresó su postura en medio de un debate creciente dentro de Silicon Valley sobre la velocidad con la que están evolucionando los modelos más avanzados y los riesgos que podrían generar si sus capacidades continúan creciendo más rápido que los mecanismos destinados a controlarlos.
La diferencia con la postura de Anthropic
La discusión se intensificó después de que Dario Amodei, director ejecutivo de Anthropic, pidiera una desaceleración global en el desarrollo de la IA para disponer de más tiempo para reforzar los mecanismos de seguridad.
La propuesta recibió respaldo de otros referentes del sector, entre ellos Sam Altman, de OpenAI, Elon Musk y Demis Hassabis, de Google DeepMind, aunque existen diferencias entre ellos respecto de cómo debería implementarse una eventual reducción del ritmo de desarrollo.
Zuckerberg, en cambio, considera equivocado establecer una pausa general para toda la industria.
Su posición es que cada compañía tiene incentivos comerciales, legales y reputacionales suficientes para evitar lanzar modelos que puedan generar daños, y que debería tener la posibilidad de reducir individualmente el ritmo de desarrollo cuando detecte riesgos relevantes.
Meta también frenó lanzamientos por seguridad
Para respaldar su argumento, Zuckerberg puso como ejemplo el desarrollo de Muse, un agente de inteligencia artificial de Meta capaz de operar software y realizar determinadas tareas de forma autónoma.
La compañía decidió retrasar durante varios meses su lanzamiento para realizar evaluaciones adicionales de seguridad.
La diferencia, según planteó Zuckerberg, es que Meta tomó esa decisión internamente sin reclamar que sus competidores también detuvieran sus propios desarrollos.
El ejecutivo defendió además el uso de evaluadores independientes para analizar las capacidades y riesgos de los modelos antes de ponerlos a disposición del público.
El debate por una IA capaz de mejorarse a sí misma
Otro de los puntos señalados por Zuckerberg tiene que ver con la denominada automejora recursiva.
El concepto describe un escenario en el que sistemas de inteligencia artificial comienzan a utilizar sus propias capacidades para colaborar en el diseño y entrenamiento de generaciones posteriores de modelos, acelerando potencialmente el ritmo del progreso tecnológico.
Zuckerberg cuestionó que algunas empresas estén concentrando demasiados esfuerzos en alcanzar ese objetivo y planteó que el foco debería mantenerse en desarrollar sistemas útiles para las personas.
La industria está cada vez más dividida
La discusión sobre la velocidad de desarrollo dejó expuestas distintas posiciones entre las compañías tecnológicas.
Anthropic propone una mayor coordinación entre empresas, evaluadores externos y gobiernos. OpenAI también reconoció que el avance de sistemas cada vez más autónomos plantea nuevos desafíos de seguridad y recientemente anunció un esquema para divulgar de manera periódica comportamientos inesperados de sus modelos.
Del otro lado, Zuckerberg y el CEO de Nvidia, Jensen Huang, se mostraron contrarios a una desaceleración general de la industria, aunque ambos reconocen la necesidad de incorporar medidas de seguridad durante el desarrollo y lanzamiento de nuevos sistemas.
Una discusión que recién comienza
El debate ya no pasa únicamente por determinar si la inteligencia artificial puede generar riesgos, sino por quién debe decidir cuándo esos riesgos justifican desacelerar el progreso tecnológico.
Una posición propone establecer mecanismos coordinados entre empresas y gobiernos para evitar que la competencia obligue a los laboratorios a avanzar demasiado rápido.
La otra sostiene que cada compañía puede evaluar sus propios riesgos, retrasar productos cuando sea necesario y continuar compitiendo sin imponer restricciones generales.
La postura de Zuckerberg ubica claramente a Meta dentro de este segundo grupo: continuar desarrollando inteligencia artificial, pero incorporar controles de seguridad dentro de cada empresa en lugar de frenar conjuntamente a toda la industria.
Otras noticias
Los principales especialistas en inteligencia artificial de Argentina
Estas son las 6 principales amenazas de ciberseguridad: aprendé a detectarlas y combatirlas
El posteo subido de tono que publicó Elon Musk después del discurso de Javier Milei en Davos
La red social X sufre una caída a nivel global
Messi se convirtió en el deportista con más likes en la historia de Instagram