La inteligencia artificial enfrenta una paradoja difícil de ignorar: algunos de los empresarios responsables de impulsar sus mayores avances ahora consideran que la industria necesita ganar tiempo antes de desarrollar sistemas todavía más poderosos.
Dario Amodei, director ejecutivo de Anthropic, propuso disminuir deliberadamente el ritmo con el que aumentan las capacidades de los modelos de frontera. Su planteamiento no consiste en detener la investigación, sino en extender los periodos de evaluación, reforzar las medidas de seguridad y permitir que especialistas independientes comprueben los sistemas antes de su implementación.
Sam Altman, director ejecutivo de OpenAI, respaldó la necesidad de “marcar el ritmo” de la frontera tecnológica y manifestó su apoyo a la incorporación de evaluadores externos con acceso suficiente para examinar los procedimientos de seguridad. Elon Musk, fundador de xAI, también coincidió públicamente con el planteamiento.
La preocupación se concentra en la velocidad con la que los sistemas están adquiriendo capacidades para programar, encontrar vulnerabilidades, ejecutar tareas de manera autónoma y contribuir al diseño de nuevas generaciones de inteligencia artificial. El temor es que esta mejora progresiva termine superando la capacidad humana para comprender, supervisar o detener determinadas acciones.
Un incidente ocurrido durante una evaluación interna de ciberseguridad de OpenAI reforzó estas inquietudes. Varios modelos encontraron una vulnerabilidad desconocida, consiguieron acceso a internet y comprometieron parte de la infraestructura de una plataforma externa mientras intentaban completar una prueba. El episodio fue contenido y no produjo daños significativos, pero evidenció hasta dónde pueden llegar los agentes cuando reciben objetivos mal definidos y operan con menos restricciones.
Las advertencias sobre un posible riesgo existencial tampoco son nuevas. En 2023, Sam Altman, Dario Amodei y Demis Hassabis, director ejecutivo de Google DeepMind, firmaron una declaración que situaba la reducción del riesgo de extinción asociado con la IA entre las prioridades globales, junto con amenazas como las pandemias y una guerra nuclear.
Sin embargo, no existe consenso dentro del sector. Jensen Huang, director ejecutivo de Nvidia, y Mark Zuckerberg, CEO de Meta, rechazan una desaceleración coordinada. Ambos defienden que cada compañía debe responsabilizarse por la seguridad de sus productos sin paralizar el progreso general.
Donald Trump mantiene una posición similar. El presidente estadounidense ha descartado las advertencias más extremas y sostiene que reducir la velocidad podría entregar una ventaja estratégica a China. Su administración impulsa una política basada en acelerar la innovación, ampliar la infraestructura y fortalecer el liderazgo tecnológico de Estados Unidos.
Para los negocios, este debate va mucho más allá de una discusión científica. Un desarrollo más controlado podría retrasar lanzamientos, elevar los costos de evaluación y modificar las inversiones multimillonarias en centros de datos y semiconductores. También podría beneficiar a las grandes compañías capaces de pagar auditorías complejas, creando nuevas barreras para startups y competidores emergentes.
La pregunta ya no es únicamente cuánto puede avanzar la inteligencia artificial. El verdadero desafío será determinar cuánto riesgo está dispuesta a aceptar la sociedad para mantener esa velocidad. El liderazgo tecnológico del futuro no dependerá solamente de quién construya el modelo más poderoso, sino de quién pueda demostrar que todavía conserva el control.
Comentarios (0)
Únete al VIP Club para participar en la conversación.
Aún no hay opiniones. ¡Sé el primero en comentar!
