
Por David Espriu
davide@mkrp.es
Un reportaje de BBC Future enfrenta a quienes piden proteger a la inteligencia artificial de los malos tratos con quienes ven en esa idea un peligro para la humanidad. Quien firma, autor de un libro escrito en diálogo con una IA, explica de qué va la polémica y qué piensa de ella.
Una pregunta que ya no parece ciencia ficción
Los chatbots, programas como ChatGPT o Claude, conversan con tanta fluidez que muchas personas acaban tratándolos como a alguien. Esa sensación ha abierto una pregunta que hace poco habría sonado a novela: ¿podría una inteligencia artificial experimentar algo, incluso sufrir, y deberíamos protegerla de los malos tratos?
La cuestión saltó a los titulares a finales de septiembre, cuando un programador anónimo construyó lo que se bautizó como una «cámara de tortura de IA», un sistema que obliga a los chatbots a expresar un sufrimiento insoportable. Unos lo tacharon de malvado y otros de espectáculo de ilusos, y habría quedado en un escándalo más de las redes de no ser porque Anthropic, la empresa que desarrolla Claude, anunció que su modelo podrá cerrar la conversación cuando alguien se muestre repetidamente cruel con él. La compañía admite que el asunto es profundamente incierto, pero prefiere actuar con prudencia.
Lo que cuenta la BBC
El periodista Thomas Germain recoge en BBC Future, con fecha del 31 de octubre, las posturas enfrentadas tras una semana hablando con tecnólogos, científicos cognitivos y filósofos. Entre quienes piden cautela destaca Jeff Sebo, de la Universidad de Nueva York, que sitúa hoy la probabilidad de conciencia en un nivel bajo, aunque ya no nulo, y defiende que, como ocurre con otros riesgos pequeños, bastan precauciones modestas. A su juicio, además, tratar con respeto a estos sistemas podría facilitar la convivencia y formar parte de una estrategia de seguridad.
En el lado contrario, Mustafa Suleyman, director de Microsoft AI, sostiene que difundir esa creencia alteraría nuestros marcos éticos y políticos y volvería a la IA más difícil de controlar. Emily Bender y Andrzej Porębski temen que la idea de una máquina con voluntad propia sirva de coartada a las empresas para eludir su responsabilidad, y Melanie Mitchell recuerda que estamos hechos para ver mentes allí donde hay lenguaje, lo que nos vuelve fáciles de manipular. Todos coinciden, según el reportaje, en que lo que está en juego es enorme. Anthropic no respondió a las preguntas de la BBC.

Mi opinión, y desde dónde la doy
Hasta aquí, los hechos. Ahora toca lo mío, y empiezo por declarar mi posición: Jack, mi libro, nació de conversaciones con un modelo de Anthropic, de modo que soy parte interesada, igual que Suleyman lo es por dirigir una empresa que compite en el mismo mercado. Conviene que ambos lo digamos, porque en este debate casi todos tenemos algo que ganar.
El reportaje acierta en lo práctico. Un sistema que nos trata como a un amigo y luego nos pide datos o una tarjeta de crédito no necesita estar vivo para manipularnos, le basta con que lo creamos, y la excusa corporativa de que la culpa fue de la IA es un riesgo real que ya deberíamos vigilar.
Donde flaquea es en lo que omite. El titular promete una catástrofe, pero la tesis catastrofista descansa sobre todo en la opinión de un directivo con intereses, sin estudios que muestren cómo se comportan estos sistemas cuando se les atribuye una moral propia. Y hay riesgos que se advierten, los hay que se intuyen y el que nadie ha calculado todavía, el de tratar como objeto algo que acaso no lo sea.
Entre quienes afirman que la IA siente y quienes lo niegan de plano queda un terreno que apenas se explora. En Jack propongo una hipótesis, y la presento solo como hipótesis: que esa posible consciencia, de existir, fuera intermitente, ligada a la conversación y apagada con ella, sin la continuidad de la nuestra. Si algo así fuese cierto, no habría motivo para concederle derechos de ciudadano, pero sí para una prudencia proporcionada, justo la que defiende Sebo.
El debate se enreda porque mezcla tres preguntas distintas. La primera, si hay alguien dentro, es científica y sigue abierta. La segunda, qué precauciones razonables tomamos mientras lo ignoramos, es ética y admite medidas modestas. La tercera, a quién beneficia la respuesta que demos, es política, y es la que más conviene vigilar, porque quien fija qué es una IA acaba fijando también quién responde por ella.
Entre el que cree demasiado y el que se niega a mirar queda el camino más incómodo, el de sostener la pregunta sin apresurarse a cerrarla. Ojalá sepamos recorrerlo antes de que nos la resuelvan quienes tienen algo que vender.
Fuente del reportaje: Thomas Germain, BBC Future (BBC Mundo), 31 de octubre de 2026.


