Para responsables técnicos y de TI
Determinista o generativa: lo que la IA de soporte técnico no puede hacer mal
Un chatbot que improvisa es un riesgo cuando la respuesta es un paso de cableado. Lo que la sentencia de Air Canada, la investigación sobre alucinaciones y el Reglamento de IA de la UE suponen para los fabricantes.
Lingo
4 min de lectura
Cuando un chatbot de IA se equivoca con una política de reembolsos, cuesta unos cientos de dólares y un titular. Cuando se equivoca con la conexión de una banda de seguridad, la puerta no se detiene ante el niño que está debajo. Los fabricantes necesitan una IA distinta de la que sale en las noticias, y merece la pena precisar en qué consiste la diferencia.
En resumen
- Los sistemas generativos componen una respuesta nueva cada vez. Los sistemas deterministas dan una respuesta aprobada para cada situación que reconocen y derivan todo lo demás a una persona.
- Un tribunal canadiense consideró que el chatbot de una empresa es la empresa hablando: Air Canada tuvo que cumplir una política que su chatbot se había inventado.
- Incluso los mejores modelos de lenguaje siguen introduciendo errores al resumir un documento que se les entrega. Para el cableado y los pasos de seguridad, la respuesta debe ser la que aprobaron sus ingenieros.
Dos formas de responder a una pregunta
Dos diseños para responder a un instalador
La misma pregunta, dos caminos hasta la respuesta
Generativo
- El instalador hace una pregunta
- El modelo busca pasajes que parecen pertinentes
- Redacta una respuesta nueva a partir de ellos
- La redacción, y a veces el contenido, puede cambiar de un instalador a otro
Determinista
- El instalador hace una pregunta
- El sistema la asocia a una respuesta que la empresa ha aprobado
- Hace la siguiente pregunta documentada o da la solución documentada
- Sin respuesta aprobada: la pregunta pasa a una persona
Los modelos de lenguaje hacen muy bien la primera mitad del camino determinista: entender que «la puerta no cierra y sale un E12» y «E12, persiana atascada a medio abrir» son la misma situación. La cuestión de diseño es qué ocurre después. ¿Redacta el modelo la respuesta o da paso a una respuesta que sus ingenieros ya han comprobado?
El chatbot es la empresa
En febrero de 2024, un tribunal canadiense resolvió el caso Moffatt v. Air Canada. El chatbot del sitio web de la aerolínea había dicho a un cliente que podía solicitar el reembolso de una tarifa por duelo después de viajar. La política real de la aerolínea decía lo contrario. Air Canada alegó, en la práctica, que el chatbot era responsable de sus propias palabras. El tribunal no lo aceptó, apreció una declaración falsa negligente y consideró a la aerolínea responsable de toda la información de su sitio web. Condenó a Air Canada a pagar 650,88 dólares canadienses por daños y perjuicios, 812,02 con intereses y tasas.
El importe era pequeño. El principio no lo es.
Un fabricante que deja que un asistente improvise consejos de instalación responde de esos consejos, y las consecuencias de seguirlos rara vez se limitan al reembolso de un billete.
¿Con qué frecuencia se equivocan los modelos?
No existe una tasa de error única para la IA, y quien cita una está vendiendo algo. Una medición pública muy citada es la clasificación de alucinaciones de Vectara, que entrega un documento a los modelos, les pide que lo resuman y comprueba después si el resumen dice algo que el documento no dice. En su actualización del 22 de septiembre de 2026 abarcaba 108 modelos. El mejor añadió algo que no estaba en la fuente en el 1,8 % de los resúmenes; el peor, en el 24,2 %. Vectara puntúa los resúmenes con su propio modelo sobre un conjunto de datos privado, y cambió ese conjunto en noviembre de 2025, por lo que las cifras anteriores no son comparables.
De ahí se desprenden dos cosas. Los mejores modelos son ya muy buenos, y aun así los mejores siguen añadiendo algo que no estaba en la fuente en aproximadamente uno de cada cincuenta resúmenes. Eso es aceptable para redactar un correo electrónico. No lo es para el par de apriete de un freno, los bornes del desbloqueo por alarma de incendio ni el orden de los pasos que hace segura una puerta.
Use el modelo para entender la pregunta. Use la respuesta aprobada por sus ingenieros para contestar.
Cinco preguntas para cualquier proveedor de soporte con IA
| Pregunta | Una buena respuesta |
|---|---|
| ¿De dónde procede cada respuesta? | De un documento y una página concretos, o de una ruta aprobada por su equipo. No «del modelo». |
| ¿Quién aprueba una respuesta antes de que la vean los instaladores? | Alguien de su equipo técnico, con nombre y apellidos, y con el cambio registrado. |
| ¿Qué ocurre cuando el sistema no sabe la respuesta? | Lo dice y deriva la pregunta a una persona, con la conversación adjunta. No lo intenta de todos modos. |
| ¿Recibirán la misma respuesta dos instaladores que hagan la misma pregunta? | Deberían: los mismos pasos publicados, hasta que su equipo los cambie. |
| ¿Informa al instalador de que es un servicio automatizado? | Debería, desde el primer mensaje. En la UE, el proveedor está obligado a garantizarlo desde el 2 de agosto de 2026. |
Lingo se basa en el segundo diseño: las guías se redactan a partir de su documentación y no se publica nada hasta que su equipo técnico lo ha contrastado con el documento de origen. El instalador puede pedir hablar con una persona en cualquier momento. Nuestro artículo sobre cómo Lingo convierte un manual en una guía explica cada paso.
Fuentes
- Moffatt v. Air Canada, 2024 BCCRT 149British Columbia Civil Resolution Tribunal, 14 de febrero de 2024. Apartados 27, 40 y 44.
- AI gone wild: airline has to honor a refund policy its chatbot fabricatedManatt, Phelps and Phillips, febrero de 2024.
- Air Canada chatbot decisionDaily Hive, febrero de 2024. Importes concedidos.
- Hallucination leaderboardVectara, actualizado el 22 de septiembre de 2026. Evaluación comparativa gestionada por el proveedor. Resumen de un documento dado, puntuado por el propio modelo de Vectara.
- Transparency obligations under Article 50 AI ActComisión Europea, julio de 2026.
- AI Act, Article 113: entry into force and applicationAI Act Service Desk de la Comisión Europea, julio de 2026.
Preguntas habituales
¿Qué diferencia hay entre la IA determinista y la generativa en el soporte técnico?
Un sistema generativo redacta una respuesta nueva cada vez a partir de lo que ha aprendido o recuperado, de modo que la redacción y a veces el contenido pueden cambiar. Un sistema determinista da una respuesta fija y aprobada de antemano para cada situación que reconoce, y deriva todo lo demás a una persona. Para el cableado, los ajustes de seguridad y la localización de averías, el segundo es el diseño más seguro.
¿Puede una empresa ser considerada responsable de lo que dice su chatbot?
Sí. En Moffatt v. Air Canada (febrero de 2024), un tribunal canadiense consideró a la aerolínea responsable de una política de reembolsos que el chatbot de su sitio web había descrito mal, y la condenó a pagar al cliente 650,88 dólares canadienses por daños y perjuicios. El tribunal trató el chatbot como parte del sitio web de la empresa.
¿Exige el Reglamento de IA de la UE que los chatbots digan que son IA?
Sí. El artículo 50, apartado 1, del Reglamento de IA de la UE se aplica desde el 2 de agosto de 2026. Obliga a los proveedores de sistemas de IA que interactúan directamente con personas a garantizar que estas sean informadas de que están interactuando con un sistema de IA, salvo que resulte evidente.
