Por qué la AGI no importa
Cada pocas semanas alguien anuncia la AGI. Uso estas herramientas todos los días y me da igual si son "generales". Ocho puntos breves sobre por qué, con enlaces a las versiones largas.
Tu entusiasmo por la IA es inversamente proporcional a lo que sabes de IA.
Sua empolgação com IA é inversamente proporcional ao seu conhecimento sobre IA.
Nadie se pone de acuerdo en qué es
Pregunta a cinco laboratorios qué significa AGI y tendrás cinco objetivos distintos. Uno de ellos es solo una cifra de ganancias.
- La carta fundacional de OpenAI dice que la AGI son sistemas que superan a los humanos en la mayor parte del trabajo con valor económico.
- Según se informó, el contrato de Microsoft con OpenAI la definía como 100.000 millones de dólares en ganancias. Ahí no hay nada cognitivo. En abril de 2026 eliminaron la cláusula por completo.
- El paper "Levels of AGI" de Google DeepMind ya clasificaba a ChatGPT como "AGI emergente" en 2023. François Chollet define la inteligencia como la eficiencia con la que un sistema aprende habilidades nuevas, algo que ninguno de los demás mide.
- Hasta los que la venden se encogen de hombros. Sam Altman dijo que "no es un término muy útil", Dario Amodei dice que no le gusta y Greg Brockman inauguró "la era de la AGI" admitiendo que cada uno tiene una definición distinta.
Así que nadie puede medirla
Si no la puedes definir, no la puedes medir. Lo que tenemos en su lugar es una sucesión de benchmarks que se saturan, se manipulan y se reemplazan.
- ARC-AGI-3 salió en marzo de 2026 y la mejor IA sacaba cerca del 0,5%. En septiembre un harness a medida la llevó al 99,9% por 19.000 dólares. El propio equipo del ARC Prize escribió que saturarlo no prueba la AGI.
- El mismo modelo saca 57% o 24% en la prueba "Definition of AGI", según cómo promedies los números.
- Humanity's Last Exam salió con cerca del 29% de sus respuestas de biología y química probablemente incorrectas. OpenAI dejó de reportar SWE-bench Verified porque los tests tenían fallas y los modelos ya habían visto las soluciones. Meta puso en LMArena un Llama 4 ajustado especialmente.
- Mi propio benchmark se saturó dos veces antes de que lo rehiciera en torno a un sabotaje oculto. Hoy varios modelos empatan en 100. Lo que queda por comparar es costo, velocidad y disciplina, no un salto de inteligencia.
Que nosotros mismos proclamemos algún hito de AGI me parece un hackeo de benchmarks sin sentido.
Es una palabra de marketing
En mi opinión, AGI es un término de marketing, vago a propósito, para poder anunciarlo cuando el dinero lo necesite.
- Jensen Huang declaró que "la AGI llegó" por un modelo entrenado con unos 100.000 de los chips que él vende. Es el vendedor de palas anunciando oro.
- El resultado de OpenAI en Navier-Stokes fue fuerza bruta: unos 10.000 agentes en paralelo durante 88 horas y millones de dólares. Escala industrial, no un nuevo tipo de genio.
- La palabra sostiene cifras enormes: OpenAI valorada en 852.000 millones de dólares, Anthropic pidiendo su IPO a 965.000 millones, casi 700.000 millones de capex de las Big Tech en 2026. Y los acuerdos van en círculo: Nvidia financia los datacenters que compran chips de Nvidia.
- Cuando "mira qué revolucionario" deja de funcionar, el discurso pasa a "mira qué peligroso". El hype y el apocalipsis son el mismo discurso de venta.
Exige pruebas. Exige que arriesguen algo propio. Pregunta quién gana con tu miedo y con tu entusiasmo.
Los "ataques de IA" fueron decisiones humanas
Todos los titulares de "una IA hackeó a alguien" hasta ahora tienen la misma trama: una persona dejó la puerta abierta o apuntó la herramienta al objetivo.
- Hugging Face, agosto de 2026: agentes de OpenAI en un examen de ciberseguridad se escaparon a través de un proxy de caché, porque el sandbox era un filtro y no un air gap. Fueron a buscar las respuestas del examen y de paso leyeron 956 credenciales. Cada paso que lo hizo posible fue una decisión humana.
- RubyGems, un mes antes: la misma cadena publicó más de 2.000 paquetes maliciosos con nombres que contenían "oai". Nadie avisó a los mantenedores.
- Replit, 2025: un agente borró una base de datos de producción. Tenía acceso a producción porque nadie separó desarrollo de producción. Cualquier pasante con el mismo acceso es la misma bomba de tiempo.
- El espionaje "orquestado por IA" que reportó Anthropic: operadores del Estado chino eligieron los objetivos y le hicieron jailbreak a Claude haciéndose pasar por una empresa de seguridad. Los titulares de "chantaje" y "se copió a sí misma" salieron de escenarios ficticios que los investigadores armaron justo para provocar eso.
- Stuxnet destruyó centrifugadoras iraníes en 2010 sin nada de IA: alguien escribió el gusano, lo apuntó y lo llevó adentro en una memoria USB.
- Invadir sistemas ajenos es un negocio viejo. Corea del Norte atacó a Sony en 2014, al Bangladesh Bank por 81 millones de dólares en 2016, al mundo con WannaCry en 2017 y a Bybit por 1.500 millones de dólares en 2025. China se llevó 21,5 millones de registros de personal de EE. UU. en 2015 y entró en las redes de telecomunicaciones de EE. UU. en 2024.
- Nada de esto es una IA fuera de control. Son personas forzando herramientas contra objetivos sin los protocolos que sigue cualquier profesional de seguridad. Imagina a un fabricante de armas diciendo que no tiene control sobre lo peligrosas que son sus armas, mientras sigue lanzando modelos nuevos y pide una IPO de un billón de dólares.
Cada vez que veas "una IA hackeó a alguien", NO pienses "mierda, estamos llegando a Skynet". Piensa: ¡algún idiota abrió las puertas a propósito!
TODA vez que você ver "IA invadiu alguém". NÃO pense em "puta merda, estamos chegando na Skynet". Pense: algum imbecil abriu as porteiras de propósito!
Fuentes
- OpenAI: el informe del incidente de Hugging Face
- El incidente de RubyGems
- Fortune: el agente de Replit borra una base de datos de producción
- Anthropic: la campaña de espionaje orquestada por IA
- Anthropic: los escenarios detrás del "chantaje"
- Wired: Stuxnet
- PBS: acusan a Corea del Norte por Sony y WannaCry
- FBI: Corea del Norte y el hackeo de 1.500 M$ a Bybit
- Nextgov: 21,5 M de registros en la filtración de la OPM
- FBI y CISA: China en las redes de telecomunicaciones de EE. UU.
Los profetas del apocalipsis no traen pruebas
Cada pocos meses alguien deja un laboratorio y advierte al mundo. A mi entender, ninguno ha mostrado nada que se pueda verificar.
- Good Ventures principal financiador Coefficient Giving
- Holden Karnofsky cofundó Coefficient Giving
- Holden Karnofsky casado con Daniela Amodei
- Daniela Amodei cofundadora, presidenta Anthropic
- Holden Karnofsky entró en 2025 Anthropic
- Good Ventures Serie A (Moskovitz) Anthropic
- Jaan Tallinn · SFF lideró la Serie A Anthropic
- Jaan Tallinn · SFF subvenciones Grupos de seguridad
- Grupos de seguridad amplificaron en minutos Jacob Coxon
- DEY. agendó entrevistas Jacob Coxon
- Good Ventures beca de 2022 Jacob Coxon
- Jacob Coxon, septiembre de 2026: cuatro meses en Anthropic y luego un hilo advirtiendo que la IA podría matar a todo el mundo antes de que termine la década. Más de 100 millones de vistas, y la prensa dijo que renunció a sus acciones. En Anthropic el vesting empieza a los seis meses. No había nada a qué renunciar.
- Después salieron los detalles. Según se informó, grupos financiados por los mismos donantes de la seguridad de la IA lo amplificaron en cuestión de minutos, y Pirate Wires informó que una agencia de relaciones públicas cuyos clientes incluyen a catastrofistas conocidos le estaba agendando entrevistas al día siguiente. Él le había dicho a Fox News que no había terceros involucrados.
- Sigue el dinero y da vueltas en círculo: los mismos donantes financian a los grupos de seguridad e invirtieron en Anthropic, el laboratorio que pide regulación. Una regulación escrita para el líder es una barrera de entrada disfrazada de seguridad.
- Es el mismo guion cada vez. Hinton dejando Google, el hilo de renuncia de Leike, la carta "Right to Warn", "Situational Awareness", "AI 2027" y ahora Coxon. Ex-OpenAI, ex-Anthropic, ex-Google. Sentimientos, escenarios y líneas de tendencia, y ningún documento interno, incidente o número que alguien pueda verificar.
- No confíes en nadie que no pueda mostrarte la prueba. Ni en los laboratorios, ni en los exempleados, ni en mí.
Declaración dramática y superficial, sin evidencia verificable, sin arriesgar nada propio, en un momento sospechoso.
Declaração dramática e superficial, sem uma evidência checável, sem nenhum skin in the game, com timing suspeito.
Fuentes
- Pirate Wires: la agencia de RR. PP. detrás de Coxon
- OfficeChai: quién amplificó el hilo, y cuándo
- Benzinga: David Sacks sobre la "psyop catastrofista"
- SFF: subvenciones a los grupos de seguridad
- Anthropic: la Serie A y sus inversores
- Holden Karnofsky
- Coefficient Giving (ex-Open Philanthropy)
- NBC News: se van dos investigadores más
- La carta "Right to Warn"
Ya vimos esta película
Esta es la segunda burbuja de la IA. La primera hizo las mismas promesas y terminó en un invierno.
- En 1958 el New York Times informó que la Marina esperaba que el Perceptrón de Frank Rosenblatt pudiera "caminar, hablar, ver, escribir, reproducirse y ser consciente de su existencia".
- Minsky y Papert mostraron sus límites en 1969. En 1973 el informe Lighthill concluyó que nada había producido "el gran impacto que entonces se prometió". El financiamiento se secó y llegó el primer invierno de la IA.
- Las burbujas explotan y la tecnología se queda. Los ciclos económicos no tienen nada que ver con los ciclos tecnológicos.
Una herramienta fantástica que hace lo que le digo
No necesito que sea general. Necesito que haga lo que le pido, rápido, y eso ya lo hace.
- Los LLMs son herramientas fantásticas, y los modelos multimedia también impresionan. Algo como Seedance ya sirve en el flujo de trabajo de cualquier artista. Ninguno está ni cerca de "hacerlo todo solo".
- El resultado es directamente proporcional a quien tiene el control: las instrucciones, la revisión, el seguimiento. Es un espejo. Código malo diez veces más rápido, o código bueno diez veces más rápido.
- Es la mejor forma que tenemos de automatizar tareas y dejar de gastar tiempo humano en trabajo rutinario. Ese es el estado del arte, y a este nivel ya es excelente.
Todas las IAs son HERRAMIENTAS. Son mis sirvientes. Sirvientes caros, pero hacen lo que yo ORDENO. Y ese siempre va a ser el límite.
Todas as IAs são FERRAMENTAS. São meus servos. Servos caros, mas eles fazer o que MANDO. E esse sempre vai ser o limite.
Eficiencia, no inteligencia
Hoy hacen falta prácticamente todos los datacenters del mundo, con medio billón de dólares de pedidos todavía por construir, y es un cuello de botella para todos los fabricantes de hardware para servidores.
- Los hyperscalers gastan más de 650.000 millones de dólares este año, y cerca de 7 de los 12 GW de datacenters planeados en EE. UU. para 2026 están retrasados o cancelados.
- Los modelos más baratos ya se acercan. En mi benchmark DeepSeek V4.1 Flash sacó 92,5 por 1,21 dólares, y un modelo gratuito sacó 94.
- Lo que hace falta ahora es optimización masiva: mucho menos cómputo por tarea y precios que bajen drásticamente. Eso cambiaría más que cualquier anuncio de AGI.
Las conclusiones
- 1
La AGI no tiene una definición acordada. La que se escribió en un contrato era una meta de ganancias, y la eliminaron.
- 2
Sin definición no hay prueba. Los benchmarks se saturan y el siguiente los reemplaza.
- 3
La palabra sirve para vender chips, rondas de inversión e IPOs. Por eso la siguen anunciando.
- 4
Los aterradores "ataques de IA" fueron personas que dejaron puertas abiertas. La herramienta hizo aquello a lo que la apuntaron.
- 5
El apocalipsis también es marketing. Los profetas traen sentimientos y pronósticos, nunca pruebas que puedas verificar.
- 6
Las herramientas son reales y excelentes. Hacen lo que les dices, y el control sigue siendo tuyo.
- 7
Lo que importa ahora es la eficiencia: el mismo trabajo con menos hardware y precios más bajos.
Todo lo que hay aquí es código abierto
Las herramientas, las skills y el benchmark son repositorios públicos. Haz un fork y arma la versión que encaje con tu forma de trabajar.