Ante las preocupaciones sobre la utilización de la inteligencia artificial, OpenAI, la compañía responsable de desarrollar ChatGPT, tiene planes de asignar un porcentaje de sus recursos tecnológicos para la creación de un equipo de trabajo cuya tarea principal será investigar y encontrar métodos que aseguren que la inteligencia artificial (AI) opere de manera ética y en beneficio exclusivo de la humanidad.
La finalidad es que la AI se supervise a sí mismo en términos de sus procesos y acciones; "Necesitamos avances científicos y técnicos para dirigir y controlar sistemas de IA mucho más inteligentes que nosotros", difundió la compañía hace unos días.
Te podría interesar
OpenAI busca regular a la AI
Además, el objetivo es abordar y solucionar "este problema" en un lapso de cuatro años. El liderazgo del nuevo equipo estará a cargo de Ilya Sutskever, cofundador de OpenAI, y Jan Leike, un ejecutivo destacado de la compañía.
"El enorme poder de la superinteligencia también podría ser muy peligroso y conllevaría a la pérdida de poder de la humanidad o, incluso, a la extinción humana", se expresa en el blog de la compañía.
Actualmente, OpenAI manifestó que aún no tiene una solución para “dirigir o controlar una IA potencialmente superinteligente y evitar que se vuelva rebelde”, prosiguió.
Mantener control sobre la AI puede llegar en esta década
A pesar de que los alcances de esta tecnología emergente pueden parecer distantes en el tiempo, existe la posibilidad de que se haga realidad en algún momento bastante cercano. Por ello, es crucial desarrollar técnicas más desarrolladas con el fin de tener un control efectivo sobre la IA superinteligente, según indica el artículo.
"Nuestro objetivo es desarrollar un investigador de alineamiento automatizada a nivel humano", continuó OpenAI, dejando en claro que dicha herramienta tendrá como objetivo garantizar que la AI traiga beneficios a las personas.