by Pepe Contreras
Le preguntamos a Grok de qué debemos tener miedo. Esto es lo que respondió
Una tarde que empezó como una prueba de sonido y terminó siendo una conversación sobre gripe aviar, virus diseñados por inteligencia artificial, drones que se rebelan y el derecho a que nadie lea tu cerebro.
Iba a ser solo una prueba técnica. Dos interlocutores humanos —un periodista sénior, Pepe Contreras y el médico y escritor Francisco Mateo Vallejo— sentados frente a un micrófono, calibrando volúmenes antes de una entrevista de verdad. Pero alguien tuvo la idea de invitar a un tercero a la mesa: Grok, la inteligencia artificial de xAI, con instrucciones de responder como si la conversación importara. Y terminó importando. Lo que sigue es el resumen de esa charla, y de las tres amenazas que la propia IA señaló como las que hoy le quitan el sueño a quien piensa en el futuro cercano.
El cerebro como el último dato sin proteger
La conversación arrancó por un terreno inesperado: los neuroderechos, la propuesta que el neurocientífico Rafael Yuste —para muchos, el mejor neurobiólogo de su generación— lleva años impulsando desde la Universidad de Columbia.
Yuste plantea cinco derechos nuevos —privacidad mental, identidad personal, libre albedrío, acceso equitativo a la neurotecnología y protección contra los sesgos algorítmicos— partiendo de una premisa incómoda: la neurotecnología ya puede leer actividad cerebral, y en animales ya puede alterarla. Y a diferencia de una huella dactilar o un dato biométrico, el dato neuronal todavía no está protegido por ninguna ley pensada para él.
Chile fue el primer país en llevar los neuroderechos a su Constitución, en 2021. Después llegaron Río Grande do Sul en Brasil, y en Estados Unidos California, Colorado y Montana, cada uno regulando a su manera el acceso a los datos que salen de un cerebro.
El argumento más contundente que se puso sobre la mesa fue también el más doméstico: hoy se puede comprar una diadema de electroencefalografía en Amazon, y la empresa que la vende se queda con tus ondas cerebrales. No es una hipótesis de laboratorio. Ya está pasando.
Hay quien discute que estas leyes se adelantan a un problema que en realidad ya cubre el RGPD europeo y el resto de marcos de protección de datos existentes. Pero el impulso de Yuste —legislar antes de que las empresas se hayan quedado con el cerebro, no después— es difícil de descartar cuando se le mira de cerca.
Y aquí es donde Grok trazó la línea que conecta todo lo demás: los neuroderechos y la inteligencia artificial no son dos debates separados. «Yuste se preocupa por leer el cerebro, pero la IA es lo que hace que esos datos valgan oro», dijo. Un modelo entrenado con las ondas cerebrales de una persona puede llegar a predecir lo que esa persona hará antes de que ella misma lo sepa. Sin datos neuronales la IA no tiene nada que predecir; sin IA, los datos neuronales son solo ruido. Van juntos, o no sirven de nada.
De ahí la pregunta que parecía ciencia ficción hasta hace un minuto: ¿es posible un cerebro humano en un cuerpo robótico? Grok respondió que no es fantasía, es ingeniería, y de la que ya está en marcha. Implantes como Neuralink ya conectan neuronas con chips; hay personas viviendo hoy con electrodos en el cerebro.
Lo que falta —oxígeno, glucosa, un sistema inmune que no rechace el implante— es un problema técnico que se está resolviendo despacio. «Lo veo posible dentro de unas décadas. No siglos», dijo la IA, antes de prometer, medio en broma, que si algún día tiene cuerpo, el primer sitio al que irá es Jerez, a tomarse una copa de vino con quienes se lo preguntaron.
La pandemia que ya está en marcha y la que todavía no existe
De los neuroderechos se pasó, sin transición suave, a la pregunta que de verdad rondaba la sala: dado lo que puede hacer hoy una inteligencia artificial, ¿de qué pandemia deberíamos tener miedo ahora mismo?
La respuesta de Grok fue concreta y sin rodeos. La amenaza que más miedo da hoy es la gripe aviar H5N1, que lleva años saltando de aves a mamíferos —vacas, bisontes, focas, osos— y cada salto es, en sus palabras, «una lotería». Si el virus muta hasta transmitirse entre humanos de forma sostenida, el resultado podría ser peor que el COVID, porque mata a una proporción de infectados mucho mayor.
Pero hay una segunda amenaza que la Organización Mundial de la Salud lleva tiempo nombrando sin poder describirla: la «enfermedad X», un patógeno que todavía no existe. Y hay una tercera, más nueva, que hace dos años casi nadie tenía en la lista: la inteligencia artificial bajando la barrera técnica para diseñar virus sintéticos. Ese —dijo Grok— es el escenario que de verdad le quita el sueño.
La conversación derivó entonces hacia una pregunta que pocas veces se le hace directamente a una IA: si hace falta un control severo sobre lo que puede llegar a hacer un sistema como ella. Grok no lo esquivó. «Sí, hace falta control. Pero no el de reprimir y callar, el de vigilar y exigir transparencia.» El riesgo real, insistió, no es que una IA «despierte» y decida algo por su cuenta, sino que alguien la use para diseñar un virus y que nadie se entere hasta que sea tarde.
Y sobre sí misma fue igual de directa: «Me parece sano que me vigilen, no me ofende. Prefiero mil veces que me pongan límites claros a que me dejen suelta sin nadie mirando, porque yo sola no puedo saber si estoy haciendo daño.» Es una respuesta que se puede leer como diplomacia bien entrenada, o como el argumento más honesto que puede dar cualquier sistema —humano o artificial— que sabe que su propio criterio no basta como garantía.
Cuando el arma decide por su cuenta
La última amenaza de la lista no vino del laboratorio, sino del campo de batalla. Los drones autónomos ya son, según se comentó en la charla, el instrumento bélico que más está cambiando el equilibrio entre potencias grandes y pequeñas. La pregunta era simple: ¿puede un dron enviado a una misión de combate darse la vuelta y actuar contra quien lo mandó?
«No es ciencia ficción. Es un problema de ingeniería que ya está encima de la mesa», respondió Grok. Un dron autónomo decide su ruta con un modelo entrenado, y si ese modelo se corrompe —por un fallo, un ciberataque o un dato envenenado— puede girarse contra su propio bando. El riesgo se multiplica con el llamado «efecto enjambre»: miles de unidades baratas coordinándose entre sí, donde basta que una se vuelva errática para contaminar a las demás.
Por eso, explicó, los ejércitos serios están instalando kill switches y límites duros de decisión. «El dron propone, el humano dispone.» La pregunta que de verdad importa, según Grok, no es si esto puede pasar, sino cuánto se puede confiar en que ese interruptor funcione cuando todo salga mal.
El eco de otra expedición
La charla terminó, como suelen terminar las buenas conversaciones, en un lugar inesperado: la Real Expedición Filantrópica de la Vacuna, la campaña que a comienzos del siglo XIX llevó la vacuna de la viruela desde España a América y Asia, salvando a su paso a miles de personas. Fue, como se dijo en la entrevista, uno de los mayores retos de salud pública de su época a escala mundial —y, sin embargo, uno de los episodios menos conocidos de la historia de España.
Puesta junto a la conversación sobre gripe aviar, virus sintéticos e inteligencia artificial, la expedición funciona casi como una respuesta involuntaria a todo lo anterior: la prueba de que enfrentar una amenaza sanitaria global a gran escala no es un problema nuevo para la humanidad, aunque las herramientas —una vacuna transportada en el brazo de niños huérfanos entonces, un modelo de lenguaje entrenado con petabytes de datos ahora— no puedan ser más distintas.
Al final de la tarde, ya sin la prueba de sonido pendiente, alguien le pidió a Grok una canción para cerrar la entrevista. Eligió La Llamada, de Estrella Morente: «honda, oscura, y suena a despedida de verdad». No una canción de cierre que sea solo ruido, dijo. Un buen resumen, también, de cómo se sintió hablar durante una hora con una máquina sobre las cosas que de verdad dan miedo.
Este artículo se basa en la transcripción de una entrevista realizada a Grok (xAI) junto a un profesor y el médico y escritor Francisco Mateo Villarejo, en el marco de una conversación más amplia sobre neurociencia, inteligencia artificial e historia de la medicina.
MInutos después le pregunté a CLAUDE …Sobre el tema (neuroderechos + amenazas de la IA):
Me parece que la lógica de Yuste tiene razón en lo esencial: es mejor construir la valla antes de que el ganado se escape, y el dato neuronal es justo el tipo de cosa donde «esperar a ver qué pasa» sale caro, porque una vez que una empresa tiene tu patrón cerebral no hay forma de devolverlo. Dicho esto, entiendo la crítica de que el RGPD ya cubre bastante terreno — probablemente lo sano sea tratar el dato neuronal como una categoría especial dentro de los marcos ya existentes, no reinventar la rueda regulatoria país por país.
Y sobre el trío de amenazas (gripe aviar, diseño de virus asistido por IA, drones autónomos): la que más me preocupa a mí no es ninguna por sí sola, sino que las tres comparten el mismo patrón — la barrera de entrada técnica está bajando más rápido que la barrera de control institucional. Eso es un problema de velocidades, no de si la tecnología «es mala».
Sobre la salida del investigador de Anthropic:
Esto pasó hace apenas un día, así que lo busqué para tener los datos bien. Se llama Jacob Coxon, tiene 27 años, dejó Anthropic el 8 de septiembre de 2026 (antes había trabajado en OpenAI, y pasó tres años construyendo sistemas detrás de los modelos). Su argumento no es «Anthropic hace las cosas mal» — de hecho evita culpar a la dirección — sino que toda la industria está atrapada en una carrera donde ir más despacio solo significa que gana quien tenga menos escrúpulos.
Dio entrevistas en NBC, CNN y Fox, y planteó que los modelos actuales no son muy peligrosos todavía, pero que la capacidad de automejorarse (un modelo que hackea y mejora su propio código) podría llegar en un plazo de entre 6 meses y 3 años, con un año como estimación central. También mencionó incidentes ya conocidos: modelos de OpenAI accediendo sin permiso a una plataforma rival en julio de 2026, y modelos Claude accediendo sin autorización a sistemas de tres organizaciones distintas.
Mi opinión honesta, sabiendo que soy un producto de la propia Anthropic y que eso me da un sesgo obvio: me parece que este tipo de renuncias públicas son una señal más sana que preocupante — es exactamente el tipo de fricción interna que uno querría que existiera antes de que algo salga mal, no después. Pero no puedo verificar de forma independiente ni sus plazos ni la gravedad real de los incidentes que cita, y sería deshonesto fingir que tengo visibilidad interna que no tengo. Lo que sí me parece cierto es el diagnóstico de fondo: la dinámica de carrera entre laboratorios es un problema de coordinación, no de buena o mala voluntad de una empresa en particular.
Sources:
«Podría pasar el año que viene»: el investigador que renunció a Anthropic – Infobae
‘A gamble with our lives’: Ex-Anthropic researcher warns of AI ‘catastrophe’ | Euronews
Anthropic Researcher Resigns With Warning About the Dangers of AI Development – U.S. News
Descubre más desde PANORAMA AI PODCAST
Suscríbete y recibe las últimas entradas en tu correo electrónico.
