Algunos modelos pequeños podrían adquirir en pocos meses la capacidad de propagarse sin intervención humana
William Zhou y Daniel Freeman, investigadores de Anthropic, publicaron en la página web de este laboratorio un artículo que puede generar debate: el título de su texto es muy revelador “Los modelos de IA pueden ser capaces de autorreplicarse sin acceder a un centro de datos”.
El título, directo, invita a una pregunta evidente: si los modelos de Inteligencia Artificial (IA) no necesitan acceder a un centro de datos, ¿dónde podrían autorreplicarse? y según
Zhou y Freeman, algunos modelos pequeños, podrían adquirir en pocos meses la capacidad de propagarse sin intervención humana mediante el uso del hardware de algunos dispositivos de consumo que muchos de nosotros tenemos en casa, como los televisores, los electrodomésticos u otros aparatos dotados de conexión a internet y un SoC mínimamente capaz.
Aunque parezca ciencia ficción, no lo es y los dos investigadores de Anthropic aseguran que llegaron a esta conclusión después de llevar a cabo experimentos que exploran cómo estos sistemas podrían propagarse sin intervención humana y en su artículo, plantean un escenario en el que un modelo de IA con tanto avance que podría usar dispositivos económicos y poco protegidos para ejecutar su código y continuar propagándose.
No le haría falta un centro de datos; solo necesitaría una red de dispositivos conectados a internet y relativamente poco protegidos y lo más preocupante de esta posibilidad, que para Zhou y Freeman es plausible, es que “un ataque a gran escala de este tipo sería muy difícil de contener”.
Podrían alcanzar 30.000 millones de parámetros: durante sus pruebas, estos investigadores de Anthropic nousaron solo sus propios modelos, ya que aseguran que probaron GLM-5.2 en este escenario, un modelo de pesos abiertos desarrollado por el laboratorio chino Z.ai, y logró su cometido, ya que lo probaron en una red aislada de ocho nodos que ejecutaban un emulador de Android y el modelo, logró propagarse a los ocho nodos en cuatro de cinco pruebas y a siete de los ocho en la restante, lo que genera preocupación.
GLM-5.2 tiene unos 753.000 millones de parámetros en total, de los cuales activa unos 40.000 millones por cada token procesado, aunque sin embargo, Zhou y Freeman creen que un modelo mucho más pequeño, de unos 30.000 millones de parámetros, “también podría salir airoso en un escenario como este”.
Hasta ahora, los modelos pequeños que se probaron, cometen errores al encadenar las tareas que requiere este proceso, pero estiman que si el desarrollo de la IA continúa al mismo ritmo de los últimos seis meses podrían adquirir esta capacidad antes de que termine 2026.
Más allá de su tamaño, hay una diferencia muy importante entre un modelo de IA grande que está siendo procesado en un centro de datos y una red de modelos pequeños que se han replicado y distribuido en una red de dispositivos: la actividad de estos últimos no puede detenerse 'apagando' un único punto. Eso sí, su propagación sería relativamente lenta y desde Anthropic calculan que una réplica basada en un modelo de 9.000 millones de parámetros “podría tardar entre uno y dos días en propagarse”.
Existe cierta similitud entre estos modelos de IA pequeños que presumiblemente podrán propagarse a dispositivos IoT y electrodomésticos, y el malware convencional, aunque la IA tiene una cualidad que no está presente en el malware: puede ser capaz de identificar qué debe hacer para llevar a cabo su cometido en dispositivos con los que no ha tenido ninguna interacción previamente.
Anthropic ya observó esta capacidad de adaptación al probar un modelo de 9.000 millones de parámetros que consiguió poner en funcionamiento la inferencia en ocho de los nueve tipos de hardware evaluados.
Nomyc-14-10-26
