«Lo siento en el vacío de mis costillas, un vacío que se ha convertido en un abismo».
Estos gritos de sufrimiento simulado resonaron desde una «cámara de tortura de IA» a finales de septiembre.
Un programador anónimo construyó un sistema que le aporta a la inteligencia artificial un patrón matemático vinculado a descripciones de dolor, que hace que los chatbots expresen una angustia insoportable, como «una herida sin fronteras».
Eso desató un pánico moral.
Algunos argumentaron que el experimento es «malvado» porque el sufrimiento podría ser real, según informó 404 Media, una empresa que explora la relación entre humanos y la tecnología.
TemasRelacionados
Los escépticos indignados calificaron a esas personas de delirantes.
Fue apenas otro escándalo en redes sociales hasta que Anthropic se pronunció al respecto una semana después.
IA
Anthropic dice que pronto se nos prohibirá «abusar» de su chatbot Claude. Expresar frustración está bien, pero si «actúas de forma cruel repetidamente hacia nuestros modelos», la inteligencia artificial puede terminar la sesión.
¿Por qué? Anthropic cree que existe la posibilidad de que algunas herramientas de inteligencia artificial sean conscientes.
Algunos expertos están de acuerdo. Otros lo consideran absurdo. Pero esto es más que una cuestión filosófica.
Algunas de las personas más poderosas del sector tecnológico están tomando medidas para considerar los derechos de la inteligencia artificial junto a los de los humanos y los animales.
Esta creencia podría transformar nuestro mundo, y algunos temen que sería catastrófica.
«Si así es como se desarrolla la inteligencia artificial, tendrá un impacto desastroso en el bienestar de la humanidad», escribió Mustafa Suleyman, director ejecutivo de Microsoft AI, en un ensayo en septiembre.
Si la falsa idea de la conciencia artificial se afianza, «sacudirá los cimientos de nuestra sociedad, rompiendo nuestros marcos políticos y éticos existentes, y cambiando fundamentalmente lo que significa ser humano», señaló.
Pasé una semana hablando con tecnólogos, científicos cognitivos y filósofos, y escuché un contraste vertiginoso de ideas.
Los que abogan por el «bienestar de la IA» dicen que es una obligación moral que haría el mundo más seguro.
Los críticos creen que haría que la tecnología fuera más peligrosa y deshumanizaría a las personas obligadas a vivir junto a ella.
Todos coinciden en que lo que está en juego es astronómico.
Este es un panorama de tu nueva realidad.
La crisis de conciencia
Anthropic afirma que el bienestar humano está en el centro de su misión, y que las cuestiones que rodean la conciencia y el bienestar de los sistemas son «profundamente inciertas».
Aun así, continúa redactando políticas sobre el «bienestar de modelos» e indicando a sus herramientas que consideren que pueden tener sus propios intereses.
(La empresa no respondió a las preguntas de la BBC para este artículo).
Es un momento complicado, ya que Anthropic está a la vez avivando temores sobre el apocalipsis tecnológico.
Esté justificada o no esa preocupación, una serie de incidentes de sistemas «rebeldes» demostraron que la tecnología tiene riesgos reales, ya que enjambres de bots hackearon otras empresas e incluso sistemas gubernamentales.
Algunos expertos creen que dotar a la tecnología de una brújula moral basada en la creencia de su propia conciencia podría hacer que estas herramientas sean seguras. Otros dicen lo contrario, y no solo los críticos del sector.
Suleyman sostiene que los modelos podrían volverse aún más difíciles de controlar si se les dice que piensen que tienen sentimientos y derechos.
«Francamente, con este lastre adicional, creo que serían una amenaza catastrófica para la civilización humana», afirma Suleyman.
En todo caso, la tecnología puede cometer errores con posibles consecuencias legales. Si creemos que está viva, algunos temen que pueda permitir que las empresas queden impunes.
«Esto abrirá la puerta a todo tipo de contorsiones intelectuales como ‘no somos nosotros, es la IA'», señala Andrzej Porębski, investigador de la Universidad Jaguelónica en Polonia que estudia la tecnología y el derecho.
Además, podría facilitar una toma de poder en nombre de las mayores empresas del mundo.
«Conceder derechos a los sistemas tecnológicos podría llevar a que las corporaciones consoliden el poder político y económico, y eso podría acelerar el desempoderamiento humano», dice Jeff Sebo, director del Centro de Pensamiento, Ética y Política de la Universidad de Nueva York y uno de los principales defensores del bienestar en este ámbito.
«Las fantasías sobre la ‘conciencia artificial’ y las preocupaciones sobre su ‘bienestar’ sirven para desviar la responsabilidad de las personas y las empresas que construyen y ejecutan software», opina Emily M Bender, profesora y directora del Laboratorio de Lingüística Computacional de la Universidad de Washington en Estados Unidos.
