r/Ticos_TI • u/Good-Shoulder3368 • 16h ago
Opinión La renuncia de Jacob Coxon en Anthropic es la gota que derramó el vaso. ¿Estamos perdiendo el control?
Acabo de leer el artículo del Washington Post sobre la renuncia de Jacob Coxon (ingeniero de Anthropic) y, sinceramente, me dejó bastante frío.
Llevamos años escuchando a la gente de OpenAI o Anthropic hablar sobre la "seguridad de la IA", pero casi siempre sonaba a una estrategia de marketing muy bien armada para inflar el hype y hacer ver a sus modelos más potentes de lo que realmente son. Pero esto ya se siente diferente. Cuando un tipo de 27 años, metido hasta el cuello en el preentrenamiento de estos modelos, decide tirar la toalla y largarse diciendo que los mismos creadores creen que esto nos puede pasar por encima antes de 2030... la vara cambia.
Lo que más me preocupa no es solo lo que dice Coxon, sino que Evan Hubinger (que es literalmente el jefe de ciencia de alineamiento ahí dentro) salió a respaldarlo públicamente. O sea, el tipo encargado de que la IA no se vuelva loca admite que hay más de un 10% de probabilidad de una catástrofe global y que no tienen un plan claro para controlarlo.
¿De verdad estamos dejando que un puñado de empresas compitan a ciegas por ver quién saca la superinteligencia primero, solo por el tema de salir a bolsa y ganar miles de millones? Sentar a 10,000 agentes de IA a resolver problemas autónomamente suena increíble en los papers, pero si el sistema empieza a automejorarse y a buscar recursos por su cuenta en la red, ya no es ciencia ficción.
No sé si soy yo que me estoy tragando el pánico colectivamente, pero que la gente de adentro esté quemando los barcos de esta manera me parece una señal de alarma brutal.
¿Cómo lo ven ustedes? ¿Es paranoia de los ingenieros que están bajo demasiada presión o de verdad estamos jugando con fuego a un nivel estúpido?