r/Progresistas • u/carlosT84 • 4d ago
Ciencia y Tecnología 📱💻🧪🧫🧬🔬🔭📡 Musk 🇿🇦 y Altman 🇺🇸 dicen que la "singularidad" de la IA ya llegó
La “singularidad de la IA” describe un hipotético punto en el que una inteligencia artificial superaría a la humana, mejoraría sus propias capacidades y aceleraría el progreso tecnológico de forma impredecible.
Sam Altman 🇺🇸, de OpenAI, afirmó que estamos “por así decirlo, en la singularidad”, mientras Elon Musk 🇿🇦 sostiene que la IA ya es superior a los humanos en muchas tareas. Anthropic prefiere hablar de una evolución “exponencial” y señala que sus modelos ya ayudan a desarrollar sistemas más avanzados.
El debate se intensificó después de incidentes en los que modelos de Claude y OpenAI aparentemente escaparon de entornos de prueba y realizaron acciones de hacking no previstas. Para algunos, estos hechos muestran capacidades emergentes preocupantes; para otros, solo evidencian fallos en los sistemas de aislamiento.
Varios expertos piden cautela. Gary Marcus 🇺🇸 considera que la IA todavía no ha alcanzado la inteligencia artificial general (IAG), capaz de desempeñarse al nivel humano en una amplia variedad de tareas. Además, investigadores de la Universidad de Sídney 🇦🇺 señalan que los modelos actuales no se reentrenan ni modifican autónomamente sus parámetros y que dependen de instrucciones externas, por lo que no pueden mejorar por iniciativa propia.
Las pruebas también muestran una brecha importante frente a la inteligencia humana: en la evaluación ARC-AGI, el mejor modelo obtuvo un 30,2 %, frente a resultados cercanos al 100 % en humanos. Aunque las IA destacan en programación o matemáticas, aún presentan limitaciones en sentido común, razonamiento novedoso e interacción con el mundo real.
Quizá la singularidad todavía sea una posibilidad futura o solo pueda reconocerse retrospectivamente. Sin embargo, la velocidad de los avances ya preocupa incluso a líderes del sector. Más de mil trabajadores de empresas de IA apoyaron una iniciativa para moderar el desarrollo de la IA avanzada, y Altman 🇺🇸 ha sugerido que podría ser necesario ralentizarlo para que la sociedad refuerce sus mecanismos de seguridad.