El debate sobre el futuro tecnológico se intensifica. El CEO de Anthropic ha lanzado una seria advertencia en la que pide frenar la Inteligencia Artificial antes de que las consecuencias sean irreversibles.
El debate sobre el futuro tecnológico ha dado un giro radical. El CEO de Anthropic, Dario Amodei, pide frenar el avance de la Inteligencia Artificial para evitar riesgos que considera potencialmente catastróficos. En su propuesta sobre el ritmo de desarrollo, sostiene que las capacidades de los modelos pueden avanzar más rápido que las medidas para mantenerlos seguros.
¿Quién es el CEO de Anthropic y qué es Claude?
Dario Amodei dirige Anthropic, la empresa detrás de Claude. Este asistente de inteligencia artificial compite con ChatGPT, cuyo uso cotidiano también plantea preguntas sobre privacidad, ansiedad y apoyo emocional. Su posición sitúa la advertencia dentro de la propia industria que desarrolla estos sistemas.
Por qué pide frenar la IA
El peligro de la falta de control humano
Amodei señala la capacidad creciente de la IA para ayudar a construir nuevas generaciones de modelos. Le preocupa que esa aceleración supere nuestra capacidad de comprenderlos y controlarlos.
Riesgos reales a corto plazo
El ejecutivo reconoce incidentes de seguridad también en Anthropic. Los utiliza para advertir de posibles daños mayores con sistemas más potentes; esas consecuencias son escenarios de riesgo, no resultados inevitables.
Seguridad en la IA: qué propone cambiar
Su plan incluye evaluadores externos dentro de los laboratorios, coordinación entre empresas y gobiernos democráticos, y acuerdos internacionales. Busca ganar tiempo para reforzar controles sin detener toda la investigación.
¿Qué opinan otros líderes de Silicon Valley?
Según Bloomberg, Sam Altman, al frente de OpenAI, respaldó incorporar evaluadores independientes con acceso comparable al de los empleados. Elon Musk, quien dirige xAI, también expresó su acuerdo con Amodei.
Ese respaldo no equivale a un calendario común para desacelerar ni a un acuerdo ya aplicado en toda la industria. La diferencia entre anunciar una intención y establecer controles verificables será clave para evaluar qué cambia.
El futuro de la tecnología también nos toca de cerca
Para quienes usamos estos asistentes, el debate invita a mirar más allá de las nuevas funciones: qué tareas delegamos, qué información compartimos y qué límites mantenemos.
Imagen principal: collage con IA sobre foto de archivo de Kimberly White/Getty Images para TechCrunch (CC BY 2.0). Logo: Anthropic.