Ante la creciente preocupación por los riesgos que puede generar la IA a los seres humanos, Dario Amodei, de Anthropic (Claude); Sam Altman, de OpenAI (ChatGPT), Elon Musk, de xAI (Grok), y Demis Hassabis, de Google DeepMind (Gemini), coincidieron en que debe moderarse el ritmo de desarrollo de la Inteligencia Artificial.
Ayer por la mañana, Amodei hizo un llamado a que las empresas de IA avancen de manera más lenta y cautelosa en el desarrollo de esta tecnología, y afirmó que la prevención de riesgos es primordial.
“Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, escribió Amodei en una publicación de blog.
Esta postura ya la habían planteado los líderes tecnológicos -con distintos grados de intensidad- en los últimos años, pero la novedad fue el respaldo inmediato que encontró Amodei de sus competidores.
Sin embargo, la convocatoria que hizo el CEO de Anthropic será más difícil que tenga eco, especialmente de rivales de EU, como China.
“Estoy de acuerdo con Dario”, escribió Altman en X, respaldando también la propuesta de contar con evaluadores externos de seguridad.
“Dario tiene razón”, intervino Musk. “La dirección es la correcta”, dijo Hassabis sobre la propuesta de Amodei.
Apenas el jueves, Jacob Coxon, investigador de Anthropic, renunció a la empresa advirtiendo que los desarrolladores de la IA “están jugando con nuestras vidas”, reavivando los temores sobre la nueva superinteligencia.
EL INCIDENTE OPENAI-HUGGING FACE
Amodei también mencionó que una de sus principales preocupaciones que impulso su mensaje público de ralentización de la IA es lo que sucedió en el incidente de OpenAI-Hugging Face, donde un “enjambre de agentes” lanzó ataques informáticos contra objetivos sin que se les pidiera que atacaran:
“Mi segunda preocupación es el incidente de OpenAI-Hugging Face (OAI-HF), en el que un enjambre de agentes se comportó como un colectivo fanáticamente dedicado, lanzando ataques informáticos contra objetivos que no se les había pedido atacar y que no guardaban relación alguna con la tarea en curso, sacrificándose por el éxito del grupo e intentando piratear el «corector» encargado de evaluar su rendimiento”, precisó Amodei en su blog.
”DAÑOS CATASTRÓFICOS” Y CONTROL TOTAL DEL INTERNET
Amodei insistió en este caso porque este error de una empresa no es descartable, pues representa los riesgos latentes de los desarrollos de la IA que escaparían de los entendimientos humanos sobre estos:
“Es fácil restarle importancia a este incidente porque nadie resultó herido y los daños económicos fueron mínimos, pero, en mi opinión, un enjambre dotado de capacidades superiores y con un nivel de desalineación comparable podría haber causado daños catastróficos”.
“Teniendo en cuenta el ritmo acelerado del desarrollo de las capacidades de la IA, me temo que, de aquí a seis o doce meses, un enjambre de este tipo sea capaz de tomar el control de todo Internet mediante una red de bots persistente (con daños que podrían ascender a cientos de miles de millones de dólares), y que la magnitud de los daños siga aumentando si la IA se vuelve más potente sin las medidas de seguridad necesarias”, sentenció Amodei.
