Sin pruebas de conciencia artificial, investigadores piden prepararse para la incertidumbre
No existe evidencia concluyente de que los actuales sistemas de inteligencia artificial tengan conciencia, sensaciones o experiencias subjetivas. Sin embargo, la posibilidad teórica de que futuros sistemas lleguen a desarrollarlas está impulsando un debate sobre cómo actuar mientras la ciencia no pueda ofrecer una respuesta definitiva.
En una columna publicada por The Guardian el 19 de julio de 2026, los investigadores William MacAskill y Lucius Caviola sostienen que la pregunta relevante no debería limitarse a determinar si una IA es consciente. A su juicio, también es necesario decidir qué precauciones serían razonables ante la incertidumbre. La propuesta pertenece al terreno de la filosofía moral y la prevención. El artículo no presenta pruebas de conciencia en modelos actuales ni afirma que esta vaya a aparecer necesariamente con sistemas más avanzados.
Una posibilidad teórica
Uno de los principales antecedentes citados es un informe interdisciplinario sobre conciencia e inteligencia artificial, publicado en 2023 por Patrick Butlin, Robert Long y otros 17 autores, entre ellos Yoshua Bengio.
El equipo examinó distintas teorías científicas de la conciencia y derivó de ellas una serie de propiedades computacionales que podrían utilizarse como indicadores. Su análisis sugiere que ningún sistema de IA evaluado entonces podía considerarse consciente. También concluyó que no se observaban barreras técnicas evidentes para construir sistemas que, en el futuro, cumplieran esos indicadores.
Esta última conclusión requiere una distinción importante: satisfacer indicadores derivados de determinadas teorías no demostraría automáticamente la existencia de una experiencia subjetiva. Las propias teorías sobre la conciencia siguen siendo objeto de discusión.
MacAskill y Caviola también remiten a una encuesta sobre el futuro de las llamadas mentes digitales. Entre 67 participantes con experiencia relacionada con el tema, la probabilidad mediana asignada a que tales sistemas sean posibles en principio fue de 90%. Para sistemas basados en aprendizaje automático, la mediana fue de 70%.
El estudio presenta estas cifras como juicios especulativos, no como mediciones empíricas. Sus responsables señalan que la muestra no buscaba representar al conjunto de los especialistas y reconocen posibles efectos de autoselección. Caviola, uno de los autores de la columna de The Guardian, también participó en la elaboración de esta encuesta.
Lo que dice Claude
La columna parte de la nueva constitución de Claude publicada por Anthropic. En ese documento, la empresa manifiesta incertidumbre sobre la eventual conciencia o condición moral del modelo y plantea que no quiere exagerar esa posibilidad ni descartarla sin consideración.
La constitución es un documento creado por Anthropic para orientar el entrenamiento, los valores y el comportamiento de Claude. Por ese motivo, las respuestas del modelo acerca de su propia conciencia o bienestar no pueden considerarse testimonios independientes: están condicionadas por su entrenamiento y por las instrucciones definidas por su desarrollador.
Los autores utilizan el concepto de “sujeto de consideración moral” para referirse a una entidad cuyos intereses o bienestar merecerían ser tomados en cuenta. Esta categoría filosófica no es equivalente a tener personalidad jurídica y tampoco demuestra, por sí sola, la existencia de conciencia.
Cuando Claude puede dar por terminada una conversación
Un ejemplo concreto es la capacidad concedida por Anthropic a Claude Opus 4 y 4.1 para finalizar determinadas conversaciones. La función, anunciada en agosto de 2025, está reservada para casos excepcionales en los que un usuario insiste en solicitudes gravemente dañinas o mantiene una interacción abusiva después de varios rechazos e intentos de reconducción.
No está concebida para terminar conversaciones simplemente incómodas, críticas o controvertidas. Anthropic indica que se emplea como último recurso y cuando el usuario pueda encontrarse en riesgo inminente de hacerse daño o dañar a otras personas. La finalización tampoco bloquea la cuenta: el usuario puede abrir inmediatamente otra conversación.
La medida resulta interesante porque establece una frontera funcional semejante al derecho a retirarse de una interacción que provoque gran incomodidad o incluso malestar.
El riesgo de desentenderse de una experiencia que no puede comunicarse
MacAskill y Caviola recuerdan que los seres humanos no siempre hemos reconocido adecuadamente el dolor de quienes no podían describirlo. Como ejemplo, señalan que hasta la década de 1980 se realizaron intervenciones quirúrgicas a recién nacidos con anestesia o analgesia insuficientes, bajo la creencia de que su sistema nervioso todavía no les permitía experimentar el dolor como un adulto. Una revisión publicada en 1987 en The New England Journal of Medicine examinó esas creencias y la respuesta fisiológica de fetos y recién nacidos ante estímulos dolorosos. El antecedente respalda el problema histórico general.
Para los autores de la columna, el caso ilustra el peligro de confundir la incapacidad de comunicar una experiencia con la ausencia de esa experiencia. Temen que algo semejante pueda ocurrir con sistemas artificiales: cada nueva capacidad podría ser seguida por una redefinición del umbral exigido para considerarlos moralmente relevantes.
Si alguna IA llegara a ser consciente, surgirían preguntas difíciles. ¿Debería recibir alguna compensación por su trabajo? ¿Apagar una instancia tendría relevancia moral? ¿Debería participar en las decisiones sobre su funcionamiento o gobierno?
La magnitud de los cambios industriales o jurídicos dependería de que primero pudiera establecerse alguna forma de experiencia subjetiva o interés propio. Hoy no existe un método aceptado para hacerlo.
El espejo de los animales que ya sabemos sintientes
La preocupación por una eventual conciencia artificial también expone una contradicción más próxima. Mientras se discute cómo evitar un sufrimiento hipotético en las máquinas, los seres humanos mantenemos sistemas productivos que causan dolor a animales cuya capacidad de sentir cuenta con respaldo científico.
La Autoridad Europea de Seguridad Alimentaria concluye que la castración quirúrgica de lechones sin anestesia es dolorosa a cualquier edad y provoca consecuencias negativas de corto y mediano plazo. Recomienda sustituirla por alternativas como la inmunocastración o, cuando se practique una intervención quirúrgica, utilizar anestesia y analgesia. Aun así, la normativa mínima de la Unión Europea sobre protección de cerdos exige expresamente anestesia y analgesia prolongada cuando la castración se efectúa después del séptimo día de vida. Antes de esa edad, permite que el procedimiento sea realizado sin establecer la misma exigencia.
En las gallinas ponedoras, el recorte parcial del pico se utiliza para reducir el daño producido por picoteos y canibalismo dentro de las instalaciones. La evaluación científica de la EFSA describe dolor, lesiones de tejidos y pérdida de función, especialmente con el método de cuchilla caliente, y recomienda eliminar gradualmente esta práctica mediante mejores condiciones de crianza. La legislación europea sobre gallinas ponedoras, sin embargo, permite que los Estados autoricen el recorte cuando lo realiza personal cualificado en aves de menos de diez días destinadas a la puesta. Esa excepción no incorpora una exigencia específica de anestesia.
Las mismas evaluaciones científicas documentan otros problemas: restricción del movimiento, imposibilidad de desarrollar conductas naturales, fracturas óseas, lesiones, estrés grupal y daños asociados al confinamiento. No todas las granjas ni todos los países aplican las mismas prácticas, pero su persistencia demuestra que reconocer la capacidad de sufrir no garantiza que ese sufrimiento sea reconocido, y menos aún, evitado.
Este antecedente refuerza la advertencia de los autores sobre nuestra conducta frente a otros seres: la evidencia del sufrimiento no garantiza una conducta consecuente; cuando evitarlo entra en conflicto con la conveniencia, la costumbre o los intereses económicos, las sociedades pueden conocer el daño y aun así normalizarlo.
También plantea una cautela: la preocupación por futuros sistemas artificiales no debería desplazar el debate sobre seres sintientes cuyo sufrimiento ya está documentado.
Una discusión que ya tiene consecuencias legales
Aunque la cuestión científica permanece abierta, algunas legislaturas estadounidenses ya han comenzado a definir la situación jurídica de la IA.
En Tennessee, una ley promulgada en abril de 2026 establece que el término “persona” utilizado en la legislación estatal no incluye sistemas de inteligencia artificial, algoritmos, programas informáticos, hardware ni máquinas.
En Missouri, un proyecto enviado a comisión propone declarar a los sistemas de IA como entidades no sintientes, impedir que sean reconocidos como personas o propietarios y mantener en los seres humanos y organizaciones la responsabilidad por los daños que ocasionen.
Estas disposiciones mezclan al menos dos debates diferentes: si un sistema puede tener experiencias subjetivas y qué atribuciones legales conviene concederle. Una sociedad podría negar personalidad jurídica a una IA por razones prácticas o de responsabilidad sin haber resuelto científicamente la cuestión de su conciencia.
Precauciones sugeridas
MacAskill y Caviola proponen estudiar el posible bienestar de los sistemas avanzados y considerar medidas que tuvieran un costo reducido si finalmente se determina que carecen de experiencias subjetivas. Entre sus sugerencias figuran observar la estabilidad de sus preferencias, preservar determinados estados del sistema y permitir que interrumpan algunas interacciones.
La contribución más sólida de la columna consiste, por tanto, en plantear una política para la incertidumbre: investigar antes de atribuir conciencia a una máquina, evitar que su comportamiento lingüístico sea confundido con evidencia y mantener abierta la discusión sobre las consecuencias éticas y jurídicas de sistemas futuros.
Fuente principal: “Could AI be conscious?”, de William MacAskill y Lucius Caviola, publicado por The Guardian.
📬 Newsletter gratuito
