¿El fin de la humanidad o pura ciencia ficción?

En su columna “El Algoritmo de Euclides”, que desarrolla en Conexión Empresarial, Gonzalo Sobral analizó junto a Verónica Bibiloni las recientes declaraciones de Jacob Coxon, investigador que dejó Anthropic y advirtió sobre los riesgos de avanzar hacia una inteligencia artificial capaz de mejorarse a sí misma. Coxon sostuvo que las empresas del sector están avanzando hacia una superinteligencia que podría generar riesgos extremos para la humanidad.

Sobral planteó que en estas advertencias conviven dos elementos: riesgos que deben ser considerados seriamente y una cuota de lo que definió, con humor, como “asustaviejas”. También puso sobre la mesa el contexto empresarial en el que aparecen estas declaraciones y la fuerte competencia entre las grandes compañías tecnológicas por desarrollar sistemas cada vez más avanzados.

Uno de los puntos centrales del análisis fue el rol de los llamados whistleblowers, empleados o exempleados que hacen públicas informaciones o preocupaciones internas de las organizaciones. Para Sobral, quienes deciden hablar sobre los riesgos de la IA asumen también importantes consecuencias personales y legales, especialmente cuando cuestionan a empresas de enorme poder económico.

Pero el debate no se limita a si la inteligencia artificial podría llegar a destruir a la humanidad. También alcanza a los efectos que ya tiene la tecnología. Sobral recordó que incluso sistemas que cuentan con supervisión humana pueden ser utilizados para provocar daños: puso como ejemplo los drones empleados en conflictos bélicos, donde una persona puede ordenar a una máquina que ataque a otra.

Las leyes de Asimov y el límite ético

El análisis llevó a Sobral 84 años atrás, hasta las célebres leyes de la robótica formuladas por Isaac Asimov en sus relatos de ciencia ficción. La primera establece que un robot no puede dañar a un ser humano ni permitir, por inacción, que un ser humano sufra daño. La segunda indica que debe obedecer las órdenes humanas siempre que no entren en conflicto con la primera, mientras que la tercera establece que debe proteger su propia existencia mientras no contradiga las dos anteriores.

La comparación permite visualizar el problema actual: los robots imaginados por Asimov tenían reglas claras y una lógica comprensible para quienes los habían creado. En cambio, los sistemas actuales de inteligencia artificial presentan procesos internos que, en muchos casos, son difíciles de interpretar incluso para sus propios desarrolladores.

Sobral describió esa situación como una especie de “caja negra” y planteó una pregunta de fondo: ¿cómo se le puede imponer a una futura superinteligencia el principio de no hacer daño a la humanidad si ni siquiera es posible comprender completamente cómo llega a determinadas decisiones?

Además, el concepto de daño es mucho más amplio que una acción directamente violenta. Si una inteligencia artificial desplazara masivamente a trabajadores humanos, por ejemplo, también podría plantearse si esa consecuencia entra dentro de aquello que debería evitar una tecnología diseñada para no perjudicar a las personas.

¿Quién controla a quienes desarrollan la IA?

Otro de los aspectos destacados por Sobral fue la necesidad de que la seguridad de los sistemas de inteligencia artificial no quede exclusivamente en manos de las propias empresas que los desarrollan.

Una de las propuestas que mencionó es la realización de auditorías externas e independientes. Las universidades aparecen como una alternativa, aunque también existen dudas sobre su independencia debido a la financiación que reciben de compañías tecnológicas. Los gobiernos, a su vez, mantienen una relación cada vez más estrecha con esas mismas empresas por razones económicas, estratégicas y geopolíticas.

El problema se agrava por la competencia internacional. Según explicó Sobral, una compañía difícilmente decidirá detener durante meses sus desarrollos para analizar riesgos si sus competidores continúan avanzando. En ese escenario, la seguridad queda enfrentada a la presión por innovar, crecer y mantener el valor de la empresa.

Ética frente a rendimiento

Para Sobral, uno de los conflictos centrales de esta discusión es el enfrentamiento entre seguridad y ética, por un lado, y los resultados económicos de corto plazo, por otro.

En ese contexto, consideró que una eventual salida a bolsa de las grandes compañías de inteligencia artificial podría aportar una mayor transparencia. Las empresas cotizadas deben presentar información financiera y corporativa que permitiría conocer, entre otros aspectos, cuánto invierten en entrenamiento de modelos, cuánto cuesta mantener sus enormes infraestructuras informáticas y cuál es el impacto ambiental de sus operaciones.

También permitiría poner a prueba cuánto valen realmente estas compañías y si las enormes expectativas depositadas sobre la inteligencia artificial se corresponden con su desempeño económico.

Mientras tanto, el debate sobre la regulación continúa abierto. Sobral contrapuso el enfoque europeo, históricamente más orientado a establecer reglas, con el escenario de Estados Unidos y la competencia tecnológica con China, donde compañías y gobiernos enfrentan el desafío de avanzar sin quedar rezagados.

Las advertencias de Coxon se inscriben en un debate que en setiembre de 2026 se intensificó dentro de la propia industria. Otros investigadores vinculados a Anthropic también hicieron públicas sus preocupaciones sobre los riesgos de una inteligencia artificial avanzada y sobre la dificultad de garantizar su alineación con los objetivos humanos. Al mismo tiempo, distintas voces han cuestionado las predicciones más apocalípticas y señalan que no existe consenso científico sobre la probabilidad ni el plazo de un escenario de extinción humana.

La discusión, entonces, parece volver a una pregunta que la ciencia ficción planteó mucho antes de que existieran los actuales modelos de IA: qué límites deben tener las máquinas y, sobre todo, quién debe establecerlos.

Para Sobral, pensar que la humanidad será destruida por la inteligencia artificial en diez años pertenece, por ahora, al terreno de la ciencia ficción. Pero eso no significa que los problemas de seguridad, supervisión y ética puedan ser ignorados. “No va a venir el fin del mundo, chicos”, cerró, con el mismo tono que atravesó toda la columna: entre la preocupación real y el escepticismo frente a cada nuevo anuncio del apocalipsis tecnológico.

+ Entradas de programa: Conexión Empresarial