Asevera Manuel Carro:
“Es improbable que la inteligencia artificial entienda el universo”
Constantemente se nos presenta una versión de la inteligencia artificial (IA)
que se parece, suena y actúa de manera sospechosamente similar a nosotros.
Habla con frases educadas, imita emociones, expresa curiosidad, afirma sentir
compasión e incluso se involucra en lo que llama “creatividad”.
Pero aquí está la verdad: la IA no posee ninguna de esas cualidades. No es
humana. ¿Y presentarla como si lo fuera? Eso es peligroso. Porque resulta
convincente. Y nada es más peligroso que una ilusión convincente.
En particular, la inteligencia artificial general o generalista —ese tipo
mítico de IA que supuestamente imita el pensamiento humano— sigue siendo
ciencia ficción, y bien podría seguir siéndolo.
Lo que hoy llamamos IA no es más que una máquina estadística: un loro digital
que regurgita patrones extraídos de océanos de datos humanos (la situación no
ha cambiado mucho desde que se discutió hace cinco años). Cuando redacta una
respuesta, literalmente solo adivina qué letra o palabra viene a continuación
en una secuencia, basándose en los datos con los que fue entrenada.
Eso significa que la IA no comprende. No tiene conciencia. No tiene
conocimiento en ningún sentido real y humano. Es puro ingenio algorítmico
guiado por la probabilidad, nada más y nada menos.
Entonces, ¿por qué una IA realmente "pensante" probablemente sea imposible?
Porque no tiene cuerpo. No tiene sentidos, ni carne, ni nervios, ni dolor, ni
placer. No siente hambre, deseo o miedo. Y como no hay cognición —ni una
pizca—, existe una brecha fundamental entre los datos que consume (datos
nacidos del sentimiento y la experiencia humana) y lo que puede hacer con
ellos.
El filósofo David Chalmers llama al misterioso mecanismo subyacente a la
relación entre nuestro cuerpo físico y la conciencia “el problema difícil de
la conciencia” (“hard problem of consciousness”, en inglés). Recientemente,
científicos destacados han planteado la hipótesis de que la conciencia surge
precisamente de la integración de estados mentales internos con
representaciones sensoriales (como cambios en la frecuencia cardíaca,
sudoración, y más).
Dada la importancia crucial de los sentidos y emociones humanas para que la
conciencia “ocurra”, existe una desconexión profunda —y probablemente
irreconciliable— entre la IA general, la máquina y la conciencia, un fenómeno
exclusivamente humano.
El amo
Antes de que argumentes que los programadores de IA son humanos, déjame
interrumpirte. Ya sé que son humanos. Ese es parte del problema. ¿Confiarías
tus secretos más íntimos, tus decisiones de vida y tus crisis emocionales a un
programador de computadoras? Y, sin embargo, eso es exactamente lo que muchas
personas están haciendo —basta con preguntarle a Claude, GPT-4.5, Gemini... o,
si te animas, Grok.
Darle a la IA un rostro, una voz o un tono humano es un peligroso acto de
travestismo digital. Provoca una respuesta automática en nosotros, un reflejo
antropomórfico, que lleva a afirmaciones aberrantes como que algunas IA han
pasado el famoso test de Turing (que evalúa si una máquina puede exhibir un
comportamiento inteligente, similar al humano). Pero yo creo que, si estas IA
están pasando el test de Turing, entonces debemos actualizar el test.
La máquina de IA no tiene idea de lo que significa ser humano. No puede
ofrecer compasión genuina, no puede prever tu sufrimiento, no puede intuir
motivos ocultos o mentiras. No tiene gusto, instinto ni brújula interior.
Carece de toda esa complejidad confusa y encantadora que nos hace ser quienes
somos.
Más preocupante aún: la IA no tiene objetivos propios, ni deseos, ni ética, a
menos que se le programen explícitamente. Eso significa que el verdadero
peligro no está en la máquina, sino en su amo: el programador, la corporación,
el gobierno. ¿Todavía te sientes seguro?
Y por favor, no vengas con: “¡Eres muy severo! ¡No estás abierto a las
posibilidades!” O peor: “Qué visión tan sombría. Mi amigo IA me tranquiliza
cuando estoy ansioso”.
¿Me falta entusiasmo? Difícilmente. Yo uso IA todos los días. Es la
herramienta más poderosa que he tenido en mis manos. Puedo traducir, resumir,
visualizar, programar, depurar, explorar alternativas, analizar datos... más
rápido y mejor de lo que jamás soñé hacer solo.
Estoy maravillado. Pero sigue siendo una herramienta —nada más, nada menos. Y,
como todas las herramientas que los seres humanos han inventado, desde hachas
de piedra y hondas hasta computación cuántica y bombas atómicas, puede ser
utilizada como un arma. Será utilizada como un arma.
Copiado de elcastellano.org
No hay comentarios.:
Publicar un comentario