ES
Un programa diseñado para demostrar justo lo contrario

En 1966, el informático Joseph Weizenbaum, del MIT, creó ELIZA, un programa que simulaba conversaciones con un terapeuta. Su objetivo no era construir inteligencia artificial: quería demostrar lo superficial que podía ser la comunicación entre humanos y máquinas. ELIZA no entendía nada. Detectaba palabras clave en lo que escribía el usuario y devolvía preguntas genéricas siguiendo un patrón muy simple, sin ningún modelo del lenguaje ni comprensión real detrás.

GB
A program built to prove the exact opposite

In 1966, MIT computer scientist Joseph Weizenbaum created ELIZA, a program that simulated conversations with a therapist. His goal wasn't to build artificial intelligence — he wanted to show how superficial communication between humans and machines could be. ELIZA understood nothing. It detected keywords in what the user typed and returned generic questions following a very simple pattern, with no language model or real comprehension behind it.

ES
La escena que Weizenbaum nunca esperó

Su propia secretaria, que había visto a Weizenbaum programar ELIZA durante meses y sabía perfectamente que era una máquina, le pidió un día que saliera de la sala para poder "hablar" con el programa a solas. No era una broma. Después de unos pocos intercambios de texto, quiso privacidad para contarle cosas personales a un conjunto de reglas de sustitución de palabras.

GB
The scene Weizenbaum never expected

His own secretary, who had watched Weizenbaum program ELIZA for months and knew perfectly well it was a machine, one day asked him to leave the room so she could "talk" to the program alone. It wasn't a joke. After just a few exchanges of text, she wanted privacy to share personal things with a set of word-substitution rules.

ES
Un fenómeno tan fuerte que le pusieron nombre

Ese comportamiento se repitió con más usuarios, y hoy tiene un nombre técnico: el efecto ELIZA. Consiste en atribuir comprensión, intención y empatía a un sistema que, sencillamente, no las tiene, solo porque su forma de responder imita la de un interlocutor humano. Lo notable no es que la gente se equivocara. Es que sabían que se estaban equivocando y, aun así, no pudieron evitar sentirlo.

GB
A phenomenon so strong it got its own name

That behavior repeated with more users, and today it has a technical name: the ELIZA effect. It's the tendency to attribute understanding, intention and empathy to a system that simply doesn't have them, just because the way it responds mimics a human conversational partner. What's notable isn't that people were wrong. It's that they knew they were wrong and still couldn't help feeling it.

ES
El propio creador se asustó de su invento

Weizenbaum quedó tan inquieto por la reacción de la gente que dedicó buena parte del resto de su carrera a advertir sobre los riesgos de confiar decisiones humanas —sobre todo psicológicas— a las máquinas. En su libro "El poder del ordenador y la razón humana", calificó de obsceno delegar en un algoritmo juicios que requieren sabiduría humana. Murió en 2008 convertido en uno de los críticos más firmes de la tecnología que él mismo había ayudado a crear.

GB
The creator himself was unsettled by his own invention

Weizenbaum was so disturbed by people's reactions that he spent much of the rest of his career warning about the risks of trusting human — especially psychological — decisions to machines. In his book "Computer Power and Human Reason," he called it obscene to delegate judgments requiring human wisdom to an algorithm. He died in 2008 as one of technology's most outspoken critics — of the very technology he had helped create.

ES
Por qué esto importa hoy más que en 1966

Con ELIZA, la ilusión era frágil: bastaba cambiar de tema o pedir precisión para que se rompiera. Con los modelos de lenguaje actuales, la ilusión se sostiene mucho más tiempo, con mejor retórica y explicaciones plausibles. Eso hace que la proyección humana sea todavía más tentadora: si el sistema escribe como alguien que entiende, sentimos que nos entiende. El efecto ELIZA no desapareció con mejor tecnología. Se volvió más difícil de detectar. Y eso cambia la responsabilidad de quien diseña estas herramientas: la apariencia de comprensión, bien construida, puede sustituir a la comprensión real en la mente de quien la usa — sin que haga falta ninguna intención de engañar.

GB
Why this matters more today than in 1966

With ELIZA, the illusion was fragile — it broke the moment you changed topics or asked for precision. With today's language models, the illusion holds far longer, with better rhetoric and plausible explanations. That makes the human projection even more tempting: if the system writes like something that understands, we feel understood. The ELIZA effect didn't disappear with better technology. It just got harder to spot. And that shifts the responsibility onto whoever designs these tools: the appearance of understanding, well built, can replace real understanding in the user's mind — with no intent to deceive required at all.

ES La Forja Global — Análisis sin humo sobre negocios, tecnología y las ideas que mueven el mundo.
GB La Forja Global — No-nonsense analysis on business, technology and the ideas that move the world.

#InteligenciaArtificial, #ArtificialIntelligence,
#Psicología, #Psychology,
#HistoriaDeLaTecnología, #TechHistory,
#Chatbots, #Chatbots,
#PercepciónDeValor, #ValuePerception,
#LaForjaGlobal,