El peligro de crear un monstruo: investigadores y especialistas en IA pidieron mayor regulación y moderar su crecimiento

 
 
Mientras cada vez más investigadores y especialistas advierten por el desarrollo de la inteligencia artificial, los CEOs de Anthropic y Open AI y el magnate tecnológico Elon Musk coincidieron este sábado en «regular el avance» y «moderar el ritmo» de su crecimiento.
Se trata de competidores comerciales en la carrera de esta tecnología quienes, por primera vez, alertan públicamente al unísono por las consecuencias de su desregulación.
Te puede interesar:
Tras la circulación de imágenes ficticias, Google Earth suspendió la función para crear fotos con IA
 
EL RECLAMO DE AMODEI
El primero en plantearlo fue Dario Amodei, director ejecutivo y cofundador de Anthropic, la empresa detrás del chatbot Claude, quien publicó un extenso ensayo en el que admite que «la industria de la IA debería ir más despacio» por motivos de seguridad.
«Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso inteligente del tiempo que ganemos», escribió.
Su texto estuvo acompañado de «un plan de tres partes», que constará de la incorporación de «evaluadores integrados» dentro de las empresas de vanguardia; de «coordinación democrática» en la que habrá «desafíos legales» y se requerirá «apoyo gubernamental»; y de «coordinación global» entre distintos gobiernos de todo el mundo.
«Desarrollar IA a un ritmo equilibrado que garantice su seguridad, al tiempo que se obtienen sus beneficios y se abordan importantes dilemas geopolíticos», planteó.
 
PRINCIPALES RIESGOS DE LA IA
En el ensayo, Amodei menciona dos cuestiones como sus «principales preocupaciones» de la IA en la actualidad: su «auto-mejora recursiva» y el «desajuste de los agentes».
Según explicó, una de las alarmas es que el avance acelerado podría superar la capacidad humana para comprender y controlar estos sistemas. Además, citó un caso de OpenAI en el que sistemas autónomos realizaron acciones no previstas y que eso podría provocar daños catastróficos.
 
ALTMAN Y MUSK TAMBIÉN SE ACOPLARON
La propuesta de Amodei recibió también el respaldo de Sam Altman, CEO de OpenAI y uno de sus principales rivales, quien horas más tarde confirmó que su empresa implementará una de las medidas planteadas por el empresario.
En concreto, OpenAI permitirá que evaluadores independientes accedan a sus sistemas en un nivel similar al de sus empleados para supervisar los riesgos asociados a la IA.
«Coincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA», afirmó Altman en X. El empresario señaló que la cuestión había ocupado un lugar central en las discusiones internas de OpenAI durante las últimas semanas y consideró «una gran idea» incorporar supervisores externos. «Nosotros haremos lo mismo. Pronto tendremos más para compartir», añadió.
El planteo también sumó el apoyo de Elon Musk, propietario de xAI y creador del chatbot Grok. Poco después de las declaraciones de Altman, Musk se expresó en X y respaldó a Amodei con un mensaje breve: «Dario tiene razón».
Te puede interesar:
Paulón impulsa un proyecto para etiquetar contenidos con IA y prohibir deepfakes en campañas
 
LOS HECHOS QUE ENCENDIERON LAS ALARMAS EN SILICON VALLEY
Las advertencias de los máximos líderes empresarios de la IA llegan luego de dos recientes hechos que sumaron preocupación entre los expertos y la opinión pública: una carta de alerta de miles de empleados de compañías del rubro y un alarmante mensaje de un destacado investigador.
Hace apenas unos días, más de 1.300 empleados de empresas de inteligencia artificial firmaron una carta abierta en la que advierten sobre los riesgos del desarrollo acelerado de la IA y piden a los gobiernos que intervengan para frenar su avance.
«Es difícil predecir exactamente cuánto acelerará esto el progreso de la IA, pero hay un riesgo real de que el desarrollo de capacidades se acelere rápidamente más allá de nuestra capacidad para comprender o controlar los sistemas resultantes», advirtieron en el documento. Fue impulsado por trabajadores de diferentes empresas como Anthropic, OpenAI y Google DeepMind.
Te puede interesar:
Más IA y menos empleados: despidos masivos en Microsoft dejan a 9000 personas sin trabajo
Por otro lado, también esta semana, se conoció que Jacob Coxon, ex investigador de Anthropic, renunció a la empresa y denunció que las compañías están dirigiéndose a un desarrollo que podría afectar a la vida humana en los próximos años al punto de creer que «podría matarnos a todos»
«Pasé los últimos tres años haciendo investigación de pre entrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas», lanzó.