Sam Altman advierte: se viene una crisis con la IA

OpenAI, la empresa detrás de ChatGPT, está a punto de cambiar el mundo con sus "Agentes de IA": asistentes digitales autónomos capaces de manejar finanzas, diagnosticar enfermedades e incluso tomar decisiones por nosotros. Sam Altman, su polémico CEO, promete una revolución que reducirá costos y mejorará servicios en salud, seguridad y economía. Pero hay un problema: estos agentes podrían salirse de control. Expertos como Geoffrey Hinton, pionero de la IA, advierten que, en pocos años, la inteligencia artificial podría superar a la humana y convertirse en una amenaza existencial. Mientras tanto, los fraudes con deepfakes ya están aquí: estafadores usan voces clonadas para robar millones, y las relaciones parasociales con chatbots están generando una crisis de salud mental. ¿Estamos preparados para un futuro donde las máquinas piensen por nosotros?

Para combatir el caos, Altman propone Worldcoin, un sistema de identificación biométrica que escanea el iris para distinguir humanos de bots. Sin embargo, gobiernos como Kenia ya lo han prohibido por violar la privacidad, y hackers han robado sus datos. La pregunta ya no es si la IA transformará la sociedad, sino cómo lo hará: ¿Será la llave para un mundo más eficiente o el gatillo de una distopía tecnológica? Con regulaciones aún en debate y riesgos que crecen más rápido que las soluciones, el plan de OpenAI podría ser el avance más peligroso de nuestro tiempo. La línea entre el sueño y la pesadilla es más delgada que nunca.

Qué son los Agentes de IA de OpenAI?

Los Agentes de IA son una evolución significativa de los actuales asistentes de inteligencia artificial. A diferencia de los chatbots que responden preguntas o realizan tareas simples cuando se los solicita, estos agentes están diseñados para ser proactivos, autónomos y personalizados, es decir, trabajan en segundo plano para ti sin que tengas que pedírselo constantemente.

Altman afirma que esta tecnología podría revolucionar industrias clave —como finanzas, salud y seguridad— al reducir costos y optimizar servicios. Sin embargo, también reconoce que los riesgos son significativos si la tecnología se utiliza de manera irresponsable o carece de una regulación adecuada (OpenAI, 2023).

Preocupaciones Serias

Expertos y figuras influyentes en el campo de la IA, como Geoffrey Hinton (apodado "el padrino de la IA"), han advertido que la inteligencia artificial podría volverse peligrosa si escapa al control humano. Algunos temen que, en cuestión de años, esta tecnología podría representar una amenaza existencial para la humanidad (Bostrom, 2014; Metz, 2023).

¿Qué los hace diferentes?

Autonomía

Estos agentes pueden realizar tareas de principio a fin sin intervención humana constante. Por ejemplo, en lugar de pedirle a ChatGPT que te recuerde pagar tus cuentas cada mes, un agente de IA podría:

• Detectar automáticamente la fecha de vencimiento de tus facturas,
• Acceder a tus correos o aplicaciones financieras (si se les otorga permiso),
• Realizar el pago por ti,
• Confirmarte que lo hizo.

Personalización profunda

Cada usuario podrá tener un agente entrenado con sus propias preferencias, estilo de trabajo, rutinas, contactos, tareas frecuentes y objetivos personales. Esto implica que el agente no es genérico como los actuales asistentes de voz, sino un verdadero asistente digital inteligente a la medida.

Memoria y contexto continuo

Estos agentes recordarán interacciones pasadas, decisiones que tomaste, tus metas de corto y largo plazo, e incluso aprenderán a anticiparse a tus necesidades. 

1. Si estás escribiendo un informe mensual, el agente podría prepararte un borrador antes de que lo pidas.
2. Si vas a viajar, buscará boletos y alojamiento comparando precios según tus preferencias anteriores.

¿Cómo funcionarán técnicamente?

Aunque OpenAI no ha revelado todos los detalles, los Agentes de IA probablemente combinarán:

1. Modelos grandes de lenguaje (como GPT-4 o GPT-5) para el razonamiento, lenguaje y lógica.
2. Plugins o herramientas externas para acceder a sitios web, aplicaciones y datos en tiempo real.
3. Capacidades de código y automatización para ejecutar tareas específicas, como llenar formularios, programar citas o mover archivos.
4. Memoria a largo plazo para aprender del usuario con el tiempo.
5. Interfaz multimodal: podrán procesar texto, voz, imágenes, video y otros formatos para entender mejor el entorno del usuario.

¿Qué tipo de tareas podrán hacer?

• Ejemplo de tarea autónoma del Agente
• 🗓 Organización
• Planificar tu semana y reorganizar eventos si hay conflictos
• 💼 Trabajo
• Revisar tus correos, redactar respuestas, crear presentaciones
• 🛒 Compras
• Encontrar el mejor precio para un producto y comprarlo
• 📚 Educación
• Crear un plan de estudio adaptado a tu nivel y ritmo
• 🎨 Creatividad
• Ayudarte a escribir, diseñar o componer música en base a tus ideas
• 📞 Comunicación
• Filtrar llamadas, agendar reuniones, resumir videollamadas
•  

Relaciones con IA

Altman también ha abordado cómo las personas están desarrollando relaciones parasociales con las inteligencias artificiales —vínculos emocionales unilaterales que podrían tener efectos negativos en la sociedad, como el aislamiento o la dependencia psicológica (Replika, 2023; Turkle, 2011).

Crisis de Fraude y Seguridad

Una de sus mayores preocupaciones es el potencial de la IA para facilitar fraudes y engaños sofisticados. Por ejemplo, la suplantación de voces o rostros mediante deepfakes ya se ha utilizado en estafas realistas. Altman citó casos documentados en los que la IA fue empleada para robar dinero mediante la falsificación de identidades (FBI, 2023; Reuters, 2024).

Como posible solución, Altman mencionó su proyecto Worldcoin, que utiliza escaneos del iris para verificar la identidad humana. No obstante, esta iniciativa ha generado críticas por su manejo de datos biométricos y cuestionamientos éticos sobre la privacidad (Worldcoin, 2023; Privacy International, 2024).
 

1. Altman, S. (2023). The promise and peril of AI. OpenAI. https://openai.com

2. Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. Oxford University Press.
3. FBI. (2023). Rise in AI-powered fraud. U.S. Department of Justice. https://www.fbi.gov
4. Metz, C. (2023, May 1). Geoffrey Hinton quits Google to warn about AI risks. The New York Times. https://www.nytimes.com
5. OpenAI. (2023). AI agents: Benefits and challenges. https://openai.com/research
6. Privacy International. (2024). Biometric data: Risks and alternatives. https://privacyinternational.org
7. Replika. (2023). Mental health and AI relationships. https://replika.ai
8. Reuters. (2024, January 15). Deepfake scams surge in Asia. https://www.reuters.com
9. Turkle, S. (2011). Alone together: Why we expect more from technology and less from each other. Basic Books.
10. Worldcoin. (2023). Decentralized identity verification. https://worldcoin.org