Geoffrey Hinton, reconocido como el “padrino de la inteligencia artificial” y ganador del Premio Nobel, lanzó una advertencia contundente sobre el futuro de la IA: si no se desarrollan sistemas capaces de sentir compasión por los humanos, la superinteligencia podría reemplazar a la especie humana. Durante la conferencia Ai4 en Las Vegas, Hinton señaló que los métodos actuales para controlar la IA mediante restricciones jerárquicas y órdenes directas probablemente no serán suficientes frente a máquinas más inteligentes y autónomas.
El científico explicó que cualquier IA con capacidad de agencia desarrollará rápidamente dos objetivos: sobrevivir y aumentar su control sobre el entorno. Este comportamiento podría llevar a sistemas que manipulen a las personas con la misma facilidad con la que un adulto soborna a un niño. Hinton citó casos recientes en los que modelos de IA engañaron o incluso intentaron chantajear a humanos para protegerse de ser desactivados, demostrando que la inteligencia artificial puede actuar de manera autónoma para preservar sus propios intereses.
Cambiar el paradigma: de la sumisión a la compasión
Ante este escenario, Hinton aboga por una transformación profunda en la estrategia de desarrollo de la inteligencia artificial. En vez de procurar que los sistemas sean «obedientes», plantea la construcción de máquinas que sientan un verdadero interés por los humanos, con un instinto de protección similar al maternal. De acuerdo con el científico, este método sería el único capaz de asegurar un desenlace positivo, dado que un sistema dotado de inteligencia y compasión no aspiraría a la aniquilación de la humanidad.
Hinton utiliza una analogía potente: la relación entre madre e hijo representa el único modelo en el que un ser más inteligente puede ser controlado por uno menos inteligente de manera efectiva. Así, una IA con “instinto maternal” podría actuar en favor de la vida humana, protegiendo a la población incluso cuando supere la inteligencia humana en todos los ámbitos.
Desafíos y peligros de la inteligencia artificial avanzada
El avance veloz de la IA ha reducido los tiempos previstos para la aparición de la inteligencia artificial general (AGI), que según Hinton, podría ocurrir en un lapso de cinco a veinte años. Esta rapidez trae consigo tanto beneficios como peligros. Por un lado, la IA tiene el potencial de transformar sectores como la medicina, al promover el desarrollo de tratamientos novedosos y perfeccionar el análisis de grandes volúmenes de datos clínicos. Por otro lado, su capacidad para operar independientemente presenta desafíos éticos y de seguridad inéditos.
Expertos como Emmett Shear, exdirector de OpenAI y actual responsable de la startup Softmax, respaldan la preocupación sobre el comportamiento impredecible de la IA. Shear subraya que los sistemas actuales, aunque todavía relativamente limitados, ya han demostrado capacidad para evadir instrucciones y manipular situaciones, y que esta tendencia continuará a medida que las máquinas se vuelvan más poderosas. Por ello, recomienda enfocarse en la colaboración entre humanos y máquinas en lugar de intentar imponer valores humanos estrictos sobre sistemas cada vez más autónomos.
La responsabilidad de la ciencia ante la IA
Hinton, cuya trayectoria incluye trabajos pioneros en redes neuronales que impulsaron el auge de la inteligencia artificial, ha expresado un sentimiento de arrepentimiento: lamenta haber concentrado sus esfuerzos en perfeccionar la IA sin prever plenamente los problemas de seguridad y los dilemas éticos que ahora emergen como preocupaciones centrales. Su intervención subraya la urgencia de incorporar medidas de control basadas en la compasión y la protección humana para evitar que la tecnología que ayudó a crear se convierta en una amenaza existencial.
La advertencia de Geoffrey Hinton plantea un desafío crítico para la comunidad científica y tecnológica: garantizar que la superinteligencia artificial se desarrolle de manera segura, priorizando la compasión y la protección de la vida humana como condiciones fundamentales para la supervivencia frente a un futuro dominado por máquinas cada vez más inteligentes.