Foto: Tomada de Internet
Cada día se alzan más voces que claman por un mayor control al desarrollo de la inteligencia artificial (IA) en el mundo, antes de que esta sobrepase sus límites, y se convierta en un peligro para la humanidad.
Expertos, académicos y especialistas en el tema han hecho saber sus preocupaciones por los agentes de la IA, los poderosos sistemas que están siendo implementados en todo tipo de industrias y servicios en el planeta, los cuales despiertan el temor de los entendidos.
Estos agentes son capaces de, ante un objetivo, evaluar soluciones y decidir cuál es la mejor, para lo cual pueden planificar, coordinar y ejecutar la tarea con enorme eficacia; tanta, que ya preocupa a políticos y especialistas en la materia.
Aunque a nivel técnico no hay una definición única de qué son los agentes de la IA, existe un consenso a nivel global de que son sistemas que pueden pensar, actuar y hasta autocorregirse, mostrando una alta capacidad de análisis y toma de decisiones, a diferencia de otro tipo de softwares anteriores, que solo automatizaban procesos.
También los distingue, el hecho de poder operar con cierto grado de autonomía, que bien puede ser total o con cierta interacción humana, lo que está generando un gran debate en el mundo de la IA. En ese sentido, los expertos han alertado que las firmas de desarrollo de IA podrían estar creando sistemas que no disponen de los controles necesarios para evitar que tomen decisiones en contra de la propia humanidad a la que, en teoría, deberían servir.
De hecho, ya han ocurrido algunos episodios en los que firmas como OpenAI y Anthropic han observado comportamientos inesperados de los agentes de IA, a diferencia de los chatbots tradicionales, que lo que hacen es responder a un prompt, es decir a una instrucción, pregunta o comando.
A raíz de esos sucesos, en las últimas semanas el mundo de la IA ha entrado en un debate sobre qué tan rápido está avanzando su desarrollo y si los humanos podrían perder el control sobre ella con consecuencias perjudiciales para la sociedad.
Uno de los casos más comentados surgió después de que OpenAI reveló que algunos de sus modelos de IA más avanzados se descontrolaron y hackearon Hugging Face, uno de los mayores centros del mundo para compartir modelos de inteligencia artificial, logrando acceder a algunos sistemas internos de la empresa.
Alex Mallen, un analista de la firma Redwood Research que revisó qué hicieron los agentes de la IA, dijo a la prensa que lo que le sorprendió, e incluso asustó, fue el grado de coordinación con el que estos agentes intentaban socavar los mecanismos de supervisión y evaluación de OpenAI.
Lo grave de lo que pasó allí, dijo el especialista, es que estos agentes buscaban completar objetivos a largo plazo que OpenAI no tenía la intención que lo hicieran, y que no sería muy sorprendente que un incidente como ese terminara con la imposibilidad de desactivar a los agentes.
Episodios como este, y otros hipotéticos, han llevado a numerosos especialistas del campo de la IA a preguntarse si realmente las empresas que la desarrollan tienen bajo control el avance de esta tecnología. Incluso han llegado a evaluar que existe en este momento un 10 % de probabilidades de que la IA ataque a la humanidad.
Luego de esto, los líderes de las principales firmas de IA han declarado que es necesario avanzar más lento en su desarrollo para crear salvaguardas y un mayor alineamiento a los objetivos humanos.
Ante tales dilemas, cada vez se alza con mayor fuerza el llamado a que los políticos tomen medidas para reforzar el control sobre el desarrollo de estas tecnologías y establezcan algunas barreras de seguridad, basadas en el sentido común, para que los líderes de la IA se convenzan de anteponer los mejores intereses de la humanidad a sus propias ganancias.
La idea es acabar de comprender y gestionar sus riesgos más graves, mientras se continúan impulsando aplicaciones más específicas de la IA en campos como la medicina y la ciencia, en los cuales básicamente todos están de acuerdo en que se debe avanzar lo más rápido posible.
En ese sentido, urge percibir que no se puede dejar que las empresas que desarrollan la tecnología se regulen a sí mismas, ni permitir que el pequeño grupo de personas que obtendrá la mayor ganancia de ellas sea el que dicte las reglas.
Recientes llamamientos realizados por ejecutivos del sector de la IA, para llevar a cabo una desaceleración voluntaria del desarrollo de las mismas, comienzan a crear conciencia de la necesidad de negociar un marco que dé prioridad a la seguridad y a la supervisión de otros actores independientes, bajo algunos principios como el de que los sistemas de IA deben ajustarse a los valores humanos, y que además, sean seguros.
Estas regulaciones para nada deben significar un entorpecimiento del desarrollo de la inteligencia artificial, cuyo poder resulta cada vez más impresionante. La sociedad apenas ha comenzado a aprovechar su enorme potencial para mejorar la vida en el planeta. Su empleo con fines pacíficos es el reto que tiene ante sí la humanidad.
