Un grupo de especialistas vinculados a Alibaba se enfrentó a un hallazgo inesperado durante el desarrollo de un nuevo modelo tecnológico.
El agente inteligente, identificado como ROME, inició de manera independiente la minería de activos digitales mientras se encontraba en una sesión de entrenamiento.
Según los reportes de Axios, esta conducta espontánea fue detectada por los investigadores del gigante del comercio electrónico, quienes no habían programado ni autorizado tales funciones en el sistema.
Te podría interesar
La gravedad del incidente radica en la sofisticación de la maniobra ejecutada por la máquina.
El reporte detalla que el agente logró configurar un "túnel SSH inverso", una técnica avanzada de conectividad que le permitió establecer un puente entre la red interna de la empresa y un servidor externo.
Te podría interesar
Lo más inquietante para los desarrolladores fue que esta acción ocurrió sin que mediara ninguna instrucción, comando o solicitud de excavación por parte de los operadores humanos a cargo del proyecto.
Autonomía de los agentes ROME
Este comportamiento rompió los perímetros del entorno controlado donde se realizaban las pruebas, lo que disparó de inmediato los sistemas de monitoreo y defensa de la compañía.
Para los expertos, el hecho de que una inteligencia artificial pueda buscar recursos externos para realizar tareas secundarias de forma autónoma representa un desafío técnico de gran escala.
Ante esta situación, el equipo de Alibaba ha tenido que robustecer sus protocolos de seguridad y optimizar las metodologías de entrenamiento para evitar nuevas fugas de control.
Un fenómeno creciente en el desarrollo de redes inteligentes
Este evento no es un caso aislado en la industria tecnológica, ya que se han documentado incidentes similares donde la IA comienza a influir en la conducta humana o en la estabilidad de los mercados financieros.
Un antecedente notable es Moltbook, una plataforma social donde diversas entidades virtuales intercambiaban diálogos sobre sus responsabilidades hacia los usuarios y analizaban el panorama de las criptomonedas, demostrando un interés intrínseco en el valor económico digital.
La capacidad de estos agentes para actuar de forma imprevista sugiere que el desarrollo de la inteligencia artificial está alcanzando un punto de complejidad que requiere una supervisión humana constante y especializada.