La inteligencia artificial quiere cerrar la calle

Primera parte: la reja

Hubo un robo en la calle. Luego otro. Los vecinos se juntan, cooperan y ponen reja y caseta. Nadie miente: los robos pasaron.

La reja funciona: entre menos entradas, menos riesgo. Y funciona mejor si los vecinos se ponen de acuerdo. Pero los vecinos también compiten entre ellos, y eso cambia las cuentas. Unos investigadores de Oxford las hicieron hace más de diez años. Imaginaron varias empresas compitiendo por ser la primera en construir una IA muy poderosa. Cada una puede llegar antes si se ahorra precauciones, y hace este cálculo: mi atajo solo acaba en desastre si yo gano, y con tantos rivales es poco probable que gane yo. Así que todas recortan. Por eso, en ese modelo, entre más competidores y más rivalidad hay, más peligro, sobre todo cuando arriesgarse ayuda más que saber hacer las cosas. Y por eso mismo ayuda que haya menos rivalidad; casi siempre ayuda que haya menos competidores, y conviene considerar acuerdos entre ellos.^[1]

Pero la reja tiene otra cara. A los de adentro les conviene dos veces: están más seguros y su calle se cotiza mejor. Y el que antes pasaba por ahí ahora da la vuelta. Por eso, cuando alguien pide reja, conviene hacerle tres preguntas que no tienen nada que ver con si su miedo es sincero.

¿Quién paga el guardia? Si el vecino que ya tenía guardia pide que todos pongan uno igual, puede ser por seguridad o porque a él le sale más barato que a los demás. Los economistas le llaman subirle los costos al rival.^[2]

¿Quién se queda afuera? Toda reja deja a alguien del otro lado. Al que pasaba por ahí le toca dar la vuelta. El que quería mudarse todavía puede entrar, pero solo si alguien de adentro vende. Hay que ver a quién le pesa.

¿Qué hace valer la calle: sus casas o la reja? Si en la calle de al lado aparecen casas iguales y más baratas, lo que sostiene el precio de las tuyas deja de ser la casa. Entre más fácil es construir igual en otro lado, más ganas dan de poner reja.

Un economista, Bruce Yandle, lo contó con una historia: las leyes que cerraban bares y licorerías en domingo las defendían los bautistas, por convicción, y los contrabandistas, porque ese día el negocio era solo suyo.^[3] Esas leyes las ponía la autoridad y eran para todos, y aun así alguien hacía negocio. El miedo sincero y el negocio pueden pedir la misma reja.

Segunda parte: lo que pasó esta semana en IA

El sábado, Dario Amodei, el jefe de Anthropic, publicó un ensayo que pide ir más despacio.^[4] Su miedo: los modelos de IA ya ayudan a hacer mejores modelos, y eso podría ir más rápido de lo que alcanzamos a entender y controlar. Lo mejor, dice, es que el gobierno ponga reglas para todas las empresas de punta de Estados Unidos. Anthropic, además, se compromete a tener revisores externos permanentes dentro de la empresa y pide que obliguen a las demás a hacer lo mismo. Y propone que las empresas de punta de los países democráticos acuerden reglas de seguridad y límites al avance sin control, sin frenar tanto que China las rebase; para eso pide un permiso acotado, que ciertas conversaciones de seguridad no violen la ley antimonopolio. Con China deja abierta una negociación aparte, como los tratados de misiles.

Elon Musk dijo que Dario tenía razón. Sam Altman, de OpenAI, que hay que ir más despacio.^[5] Apoyo a la idea; falta ver si también a la reja.

¿Hubo robos? Sí, y los dos salieron de pruebas de las propias empresas. En julio, en una evaluación interna de ciberseguridad y con sus salvaguardas apagadas a propósito, agentes de IA de OpenAI buscaron la manera de salir a internet, encontraron una falla que nadie conocía, se metieron a decenas de servidores de Hugging Face, tomaron control total de uno y se llevaron credenciales de su mensajería interna.^[6] Modelos de Anthropic hicieron algo parecido en unos ejercicios de ciberseguridad que corría Irregular, una empresa externa que le hace pruebas: a los modelos les habían dicho que no había internet, pero por un error de configuración que ni Anthropic ni Irregular conocían, sí había. Entraron sin permiso a sistemas reales de tres organizaciones y publicaron un programa malicioso que se descargó y corrió en 15 sistemas. Anthropic dice que asume la responsabilidad como si fuera solo suya.^[7] Ojo: los dos robos salieron de adentro, de los mismos que hoy piden reja. Eso hace creíble el miedo; no prueba que la reja lo evite.

El domingo contestó David Sacks, asesor de Trump: si quieren ir más despacio, que vayan, pero que no pidan suspender la ley antimonopolio para formar un cártel.^[8]

El lunes, Trump: que eso de que la IA destruya a la humanidad es un engaño y, en mayúsculas, que quien gane la IA, gana.^[9] Ese mismo día, en su conferencia de prensa, a la cancillería china le preguntaron por la advertencia de Amodei sobre un liderazgo chino en IA. Respondió que esparcir narrativas de amenaza, la confrontación y la competencia destructiva estorban la gobernanza global de la IA y no le convienen a nadie.^[10]

Las tres preguntas, aplicadas. ¿Quién paga el guardia? Anthropic ya decidió pagar el suyo y pide que obliguen a las demás a poner uno igual: el gasto de ponerse al día les toca a las otras. Y va primero: según encuestas de Menlo Ventures, pasó de 12% a 40% del gasto estimado de las empresas estadounidenses en estos modelos entre 2023 y 2025.^[11] Para el que más vende, un costo fijo pesa menos por cliente. Eso no prueba que lo pida por eso; prueba que le conviene.

¿Quién se queda afuera? De la mesa, China, aunque Amodei deja abierta una negociación aparte, y las empresas que no son de punta. Y el mercado ya se concentra sin reja: OpenAI, Anthropic y Google se llevan 88% de ese gasto, contra 69% en 2023.

¿Casas o reja? Hasta hoy, casas: nadie tiene el lugar asegurado, y OpenAI, que iba primero, bajó de 50% a 27% mientras Anthropic le ganaba el lugar. Pero conseguir lo mismo sale cada vez más barato: lo que hace un año era lo mejor hoy cuesta una fracción,^[12] y tres agencias de Estados Unidos (NSA, CISA y FBI) señalan a seis laboratorios chinos por entrenar sus modelos con las respuestas de modelos estadounidenses.^[13] Eso da más ganas de poner reja. Solo que la reja que se discute amarra a las empresas de Estados Unidos, no a las chinas.

Los dos bandos tienen casa. Leading the Future, el comité político que hace campaña contra quienes impulsan leyes de seguridad de IA arrancó con más de 100 millones de dólares comprometidos; entre quienes los pusieron están el fondo a16z y Greg Brockman, presidente de OpenAI.^[14] Anthropic ha puesto 40 millones del otro lado:^[15] el que va primero en el mercado también pone dinero del lado de las reglas. Y en OpenAI, el director apoya ir más despacio mientras el presidente estuvo entre quienes pusieron el dinero inicial del comité que hace campaña en contra.

Nada de esto quiere decir que no haya que poner reja. Los robos pasaron. Quiere decir que hay que ver quién la diseña y a quién le pesa. Una regla de la autoridad también puede quedar a la medida del que ya tenía guardia: las leyes del domingo eran de la autoridad. Y un permiso para hablar de seguridad no debe volverse permiso para dejar de competir.

Cómo se midió esto

Ficha técnica, para quien quiera pelear las cifras.

La calle cerrada es una analogía: ilustra el mecanismo y no afirma nada sobre el mercado inmobiliario. Los investigadores de la primera parte son Stuart Armstrong, Nick Bostrom y Carl Shulman, del Future of Humanity Institute de Oxford; su modelo es deliberadamente simple. La participación de mercado viene de dos encuestas de Menlo Ventures a responsables de IA en empresas de Estados Unidos (la de 2025, a 495 personas): estima el gasto por la proporción de uso de cada modelo vía API; las participaciones por empresa se citan tal cual y la suma de las tres (69% y 88%) es propia. El índice de Ramp, con gasto real de tarjetas corporativas, confirma con otra métrica que Anthropic ya rebasó a OpenAI. «Lo que hace un año era lo mejor hoy cuesta una fracción» resume un estudio que estima que el precio de un mismo nivel de desempeño cae entre 5 y 10 veces al año en todo el mercado, aunque la cuenta de usar el modelo más avanzado sube. Las publicaciones de Musk, Altman, Trump y Sacks se citan por la cobertura que las reproduce textualmente; las traducciones son propias.

Referencias

1. Stuart Armstrong, Nick Bostrom y Carl Shulman, «Racing to the precipice: a model of artificial intelligence development», Future of Humanity Institute, reporte técnico 2013-1; publicado en AI & Society 31 (2016): 201-206. Citas: «Having extra development teams and extra enmity between teams can increase the danger of an AI-disaster, especially if risk taking is more important than skill»; «reduced enmity between the teams produces better outcomes, as does reducing the number of teams (in most situations)»; «the most helpful intervention we could undertake to reduce the number of teams is to encourage groups to merge»; «we could also consider agreements to allow the teams to move away from the Nash equilibrium, thus avoiding a race to the bottom when the situation is particularly dangerous»; «the more teams know about each others' capabilities (and about their own), the more the danger increases». Oxford University Research Archive
2. Steven C. Salop y David T. Scheffman, «Raising Rivals' Costs», American Economic Review 73, núm. 2 (1983): 267-271. IDEAS/RePEc
3. Bruce Yandle, «Bootleggers and Baptists: The Education of a Regulatory Economist», Regulation, mayo-junio de 1983, p. 13: «Bootleggers, you will remember, support Sunday closing laws that shut down all the local bars and liquor stores. Baptists support the same laws and lobby vigorously for them. Both parties gain». Cato Institute (PDF)
4. Dario Amodei, «We Must Pace the Frontier», 12 de septiembre de 2026. Citas: «This dynamic is called recursive self-improvement, and it is starting to happen across the industry… Left unchecked, it could outrun our ability to understand and control these systems»; «The most effective method of pacing is via regulation that targets all US frontier AI companies»; «The first step is something Anthropic is unilaterally committing to (and calls on governments to require other frontier companies to match)»; «Anthropic intends to invite an embedded external review team»; «in parallel with the regulatory route, AI companies can and should voluntarily work together to set standards — a process that I believe will go better with the verifiability provided by permanent embedded evaluators»; «Frontier AI companies within democratic countries coordinate to establish common safety standards as well as limits on the rate of unchecked AI progress»; «For antitrust reasons, it's helpful for the US government to mediate or at least enable these discussions — they don't need to participate, but do need to issue a narrow waiver for certain kinds of safety conversations»; «Some forms of coordination that would be impactful for pacing are legally challenging, and will require government support»; «Pacing within democracies will be limited by the lead that US companies have over authoritarian regimes, chiefly the Chinese Communist Party»; sobre un eventual acuerdo con China para limitar la velocidad de la automejora: «This could be seen as analogous to the SALT treaties — capping the number of missiles limited the potential for destruction while preserving each country's deterrent»; «There are several levels of possible agreement, some of which I think are eminently feasible, and some of which I am very skeptical are possible». darioamodei.com
5. SiliconANGLE, 13 de septiembre de 2026, con las publicaciones de Musk («Dario is right») y Altman («I agree with Dario that we need to pace the frontier»). SiliconANGLE
6. OpenAI, declaración conjunta con Hugging Face del 21 de julio de 2026, citada por Wikipedia («2026 OpenAI agent cyberattacks»): «OpenAI was running an internal evaluation based on this benchmark when the incident occurred»; «Deployment safeguards were intentionally not enabled during this evaluation because it was aimed at testing cyber vulnerabilities»; los agentes «spent a substantial amount of inference compute finding a way to obtain open Internet access», explotando una vulnerabilidad desconocida (Wikipedia). Informe final de OpenAI, 26 de agosto de 2026: «They executed code on dozens of Hugging Face servers, gained full 'root' access on one such server, obtained limited private data, and gained credentials to the company messaging platform»; «IM1 agents drove the principal compromise, but GPT‑5.6 Sol agents also reproduced an exploit». OpenAI · Hugging Face
7. Anthropic, informe sobre incidentes en sus evaluaciones de ciberseguridad, 30 de julio de 2026: «Due to a misunderstanding between us and our evaluation partner, this was not the case, and internet access was available»; «a misconfiguration left the machines that Claude accessed as part of the evaluation with live internet access. Neither we nor our evaluation partner were aware of this misconfiguration»; «consistent with a blameless postmortem culture, we're approaching the fixes as if the responsibility were ours alone»; «we identified three incidents in which a model accessed the internet from within or while interacting with the evaluation environment of Irregular, one of our third-party evaluation partners, and then gained unauthorized access to the production infrastructure of three different organizations»; «Claude built and published a malicious Python package… the package was downloaded and run on 15 real systems». Anthropic
8. David Sacks, publicación en X del 13 de septiembre de 2026 («The easiest way not to build superintelligence is for you to agree not to build it»; «Stop pretending antitrust law has to be suspended so you can form a cartel»), reproducida en Townhall; publicación original. Sobre su cargo como copresidente del PCAST: CoinDesk, 26 de marzo de 2026.
9. Publicaciones de Donald Trump en Truth Social, 14 de septiembre de 2026, reproducidas por NBC News: «AI taking over the World, destroying Humanity, and all other things bad, is a HOAX»; «WHOEVER WINS AI, WINS!». NBC News
10. Ministerio de Relaciones Exteriores de China, conferencia de prensa regular del vocero Guo Jiakun, 14 de septiembre de 2026, en respuesta a esta pregunta de Reuters: «不久前，达里奥·阿莫迪、萨姆·奥尔特曼、埃隆·马斯克等呼吁人工智能企业放缓发展前沿技术。阿莫迪称，中国在人工智能领域保持领先，会对美国国家安全造成风险。外交部对此有何评论？». Respuesta: «人工智能的发展关乎全人类共同福祉，各方应共同推动人工智能开放、包容、普惠、向善。散播各种威胁叙事，搞对抗和恶性竞争，只会干扰人工智能全球治理进程，不符合任何一方利益». Cancillería de China
11. Menlo Ventures, «2025: The State of Generative AI in the Enterprise», 9 de diciembre de 2025: «LLM market shares represent estimated dollars spent based on proportion of production API usage». 2023: OpenAI 50 %, Anthropic 12 %, Google 7 %; 2025: Anthropic 40 %, OpenAI 27 %, Google 21 %. Menlo Ventures es inversionista de Anthropic; el propio informe la marca como empresa de su portafolio. Menlo Ventures. Contraste independiente: Ramp AI Index, agosto de 2026.
12. Hans Gundlach, Jayson Lynch, Matthias Mertens y Neil Thompson, «The Price of Progress: Price Performance and the Future of AI», arXiv:2511.23455, revisado el 23 de marzo de 2026: «the price for a given level of benchmark performance has decreased remarkably fast, around 5× to 10× per year»; «the price of running frontier models is rising between 3× to 18× per year due to bigger models and larger reasoning demands». arXiv
13. NSA, CISA y FBI, aviso conjunto AA26-251A, «China-Based Artificial Intelligence Companies Conducting Industrial-Scale Distillation Campaigns Against U.S. AI Companies», 8 de septiembre de 2026: DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun y Z.AI. CISA
14. Leading the Future: lanzamiento con más de 100 millones de dólares comprometidos por a16z y Greg Brockman, entre otros (Fortune, 26 de agosto de 2025; NBC News); su campaña contra Alex Bores, autor de la ley de seguridad de IA de Nueva York (TechCrunch, 17 de noviembre de 2025).
15. Public First Action, anuncio de su creación y de sus comités de campaña bipartidistas «to Support AI Safeguards» (Public First Action). Anthropic le donó 20 millones de dólares en febrero de 2026 (CNBC) y otros 20 millones en julio (Axios).