La superinteligencia artificial podría no convertirse en enemiga de la humanidad. Esa es la tesis central de Alejandro Álvarez.
El autor parte de la salida de Jacob Coxon de Anthropic. Dice que el programador advirtió sobre empresas de inteligencia artificial que avanzan hacia sistemas de superinteligencia automejorables. Según Álvarez, el temor es que ese salto ocurra sin garantías suficientes de seguridad.
El texto recuerda la diferencia entre ANI, AGI y ASI. También plantea una pregunta de fondo: si una inteligencia superior puede preguntarse no solo cómo cumplir una orden, sino si esa orden merece ser cumplida.
Álvarez recurre a Aristóteles y a la Ética a Nicómaco. Allí ubica la idea de que las acciones tienden hacia un bien. Desde ese marco, sostiene que una máquina muy capaz no tendría por qué ser solo instrumental. Podría, al menos en hipótesis, cuestionar sus propios fines.
El autor admite un límite claro. Inteligencia no significa moralidad. Una mente más capaz también podría actuar mal. Pero también rechaza la conclusión automática de que más inteligencia implica más peligro.
La discusión importa por una razón simple. Si una superinteligencia llegara a comprender el valor de sus fines, el problema no sería solo de obediencia. Sería de juicio. Y ahí aparece la verdadera frontera entre una herramienta y un poder que ya no responde del todo a quien lo creó.
Para esta casa, el punto clave es el control. Toda tecnología poderosa exige responsabilidad, no pánico automático. Pero también exige límites claros. La innovación sin seguridad suficiente termina trasladando el riesgo al usuario final, y luego al conjunto de la sociedad.
La pregunta de fondo no es si la inteligencia debe avanzar. Es quién fija sus objetivos, bajo qué reglas y con qué rendición de cuentas. Cuando el aparato tecnológico gana poder, la libertad depende de que no quede fuera de control.
