El riesgo de la IA no siempre parece un error: a veces parece una excelente frase

La frase más peligrosa de un borrador asistido por inteligencia artificial quizá no tenga faltas. Puede ser clara, específica y perfectamente compatible con el tono de la organización. Precisamente por eso pasa de una pantalla a otra sin despertar preguntas.

El problema aparece después: la cifra no estaba en la fuente, la cita nunca existió, la función del producto todavía no estaba disponible o una posibilidad terminó redactada como certeza. Para el lector, el origen técnico del error es secundario. La afirmación apareció bajo el nombre de una persona o una organización.

Una corrección puede reparar el dato, pero no devuelve automáticamente la confianza empleada en creerlo. La respuesta práctica no es desconfiar de cada palabra ni renunciar a la IA. Es instalar un control editorial que trate la plausibilidad como punto de partida, no como prueba.

Plausible no significa verificable

Los sistemas generativos producen respuestas a partir de patrones. Su capacidad para construir lenguaje fluido no implica que cada afirmación corresponda a una fuente comprobada. El perfil de inteligencia artificial generativa del Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) identifica la confabulación como la producción de contenido falso o erróneo presentado con seguridad. El documento señala que este contenido puede inducir a error o afectar la integridad de la información.

La elección del término importa. En una conversación cotidiana se habla de «alucinaciones», pero la metáfora puede distraer del control necesario. Para un equipo editorial, la pregunta no es qué experimentó el sistema. Es si la afirmación tiene respaldo suficiente para el uso previsto.

NIST también advierte que algunos riesgos de la IA generativa son difíciles de estimar porque la medición y la ciencia de la seguridad continúan evolucionando. Por eso no existe una cifra universal que permita declarar seguro un texto. El contexto cambia el impacto: una idea para una sesión privada no exige el mismo control que una propuesta comercial, una declaración pública o una recomendación regulada.

El costo reputacional nace en la atribución

Una organización puede explicar que utilizó una herramienta, pero no puede trasladarle su responsabilidad ante la audiencia. Quien publica selecciona el canal, conserva la firma y decide que la pieza está lista. La Recomendación de la OCDE sobre Inteligencia Artificial incluye transparencia, robustez y rendición de cuentas entre sus principios. El Marco de Gestión de Riesgos de IA del NIST organiza el trabajo en cuatro funciones —gobernar, mapear, medir y gestionar— y coloca la gobernanza como una función transversal.

Llevado al trabajo editorial, esto significa que una frase falsa no es únicamente un problema de generación. También revela una falla del sistema que la aceptó: nadie asignó un responsable, el respaldo quedó lejos de la afirmación, la revisión evaluó estilo pero no verdad o la persona que aprobó no podía detener la publicación.

No hace falta imaginar una crisis espectacular. El deterioro puede ser pequeño y acumulativo. Un comprador encuentra una función que el producto no ofrece. Un colega abre la referencia y descubre que la conclusión excede el documento. Un cliente debe preguntar qué parte del informe es comprobable. Cada incidente obliga a gastar atención en reconstruir algo que el texto había dado por sentado.

La velocidad solo crea valor si el sistema puede conservar lo que importa. Si ahorrar unos minutos al redactar exige horas para rastrear fuentes, corregir materiales y explicar el error, el ahorro era incompleto.

Cuatro formas en que una frase se vuelve engañosa

No todas las fallas son invenciones totales. Algunas surgen de cambios pequeños que una revisión superficial no detecta.

1. La fuente no existe

El borrador atribuye una cifra, una cita o una conclusión a un documento que no puede localizarse. Un enlace con apariencia académica no es evidencia. Hay que abrirlo, comprobar autoría, fecha, título y contenido.

2. La fuente existe, pero no sostiene la frase

Un informe relacionado con el tema puede no contener el dato citado. También puede describir una población, periodo o condición distintos. La pertinencia no se demuestra porque el título de la fuente use palabras similares.

3. La fuerza cambió

La fuente dice «puede», «se asocia» o «en ciertas condiciones», mientras el borrador afirma «garantiza», «provoca» o «siempre». Una palabra convierte incertidumbre en certeza o asociación en causalidad.

4. El contexto desapareció

Una afirmación correcta dentro de un límite se presenta como regla general. Puede faltar la jurisdicción, la fecha de vigencia, el grupo observado, el método o una excepción decisiva. El recorte no inventa todas las palabras, pero cambia lo que el lector entiende.

Estas cuatro fallas requieren revisiones distintas. Buscar errores ortográficos no encuentra ninguna. Pedir a la misma herramienta que «confirme» su respuesta tampoco constituye verificación independiente: puede repetir la afirmación con otra redacción.

Un control editorial de cinco preguntas

Antes de publicar, somete cada afirmación verificable a una secuencia breve. Una afirmación verificable incluye cifras, citas, fechas, características de producto, requisitos, resultados y descripciones de terceros.

1. ¿Cuál es exactamente la afirmación?

Sepárala del párrafo. Evita evaluar una sensación general de corrección. Escribe la proposición que debe sostenerse: qué ocurrió, a quién, cuándo y bajo qué condiciones. Si no puedes delimitarla, tampoco podrás comprobarla bien.

2. ¿Dónde está la fuente primaria?

Busca el documento original: norma, política, informe oficial, artículo científico original o documentación vigente del producto. Una nota que resume otra nota alarga la cadena y puede borrar matices. Las fuentes secundarias sirven para descubrir pistas; la afirmación decisiva debe llegar hasta el origen cuando sea posible.

3. ¿La fuente dice eso con la misma fuerza?

Compara verbos, alcance y condiciones. Señala cualquier salto de «podría» a «hará», de «observamos» a «demostramos» o de una muestra concreta a todas las organizaciones. Si necesitas interpretar, presenta la interpretación como propia y conserva el hecho atribuido por separado.

4. ¿Qué contexto necesita el lector?

Acerca el límite a la afirmación. No escondas la excepción en una nota distante. Fecha, jurisdicción, población y condiciones materiales permiten al lector decidir si la información aplica a su situación.

5. ¿Quién puede aprobarla o detenerla?

Asigna la revisión según el riesgo. Producto comprueba funciones; un especialista competente revisa materias jurídicas, médicas o financieras; la persona firmante asume la tesis y la promesa. Si nadie tiene autoridad real para devolver la pieza, la aprobación es ceremonial.

Una lista breve para usar antes de publicar

1. Marca todas las cifras, citas, fechas, funciones y afirmaciones sobre terceros. 2. Abre cada fuente; no valides por el título ni por el resumen de la IA. 3. Busca la frase o el dato dentro del documento y lee el contexto cercano. 4. Compara modalidad, causalidad, población, periodo y jurisdicción. 5. Elimina lo que no puedas sostener o conviértelo explícitamente en hipótesis. 6. Solicita revisión especializada cuando el impacto o la materia lo requieran. 7. Conserva fuente, versión final, responsable y decisión de publicación.

Este control no garantiza ausencia total de errores. Sí reduce una exposición evitable y facilita corregir con trazabilidad. También impide que el equipo confunda una referencia decorativa con evidencia.

Qué hacer cuando no puedes verificar

La presión por terminar favorece dos malas salidas: publicar porque la frase «seguramente es correcta» o sustituirla por una formulación ambigua que mantiene la insinuación. Hay opciones más honestas.

Primero, elimina la afirmación si no es necesaria para la tesis. Un texto no mejora por acumular datos. Segundo, limita la frase a lo que sí muestra la evidencia. Tercero, presenta una pregunta o hipótesis como tal, sin atribuirle respaldo inexistente. Cuarto, aplaza la pieza si la afirmación es central y requiere una comprobación que todavía no está disponible.

Detener una publicación no es una falla del sistema. Es una capacidad del sistema. El proceso responsable debe permitir corregir, escalar y cancelar, no únicamente avanzar.

Transparencia y verificación cumplen funciones distintas

Informar que una pieza fue asistida por IA puede ser pertinente según el contexto, las expectativas, la política interna o las obligaciones aplicables. Pero una etiqueta no convierte en cierta una afirmación falsa. Transparencia responde quién o qué participó en el proceso; verificación responde por qué el contenido merece confianza.

La Comisión Europea describe el Reglamento de IA como un marco basado en riesgo, con obligaciones que dependen del sistema y del papel de cada actor. Las reglas concretas requieren revisar el uso, la jurisdicción y la fecha aplicable. No conviene convertir una explicación general en asesoría jurídica ni asumir que una declaración de uso resuelve todas las obligaciones.

La práctica editorial más sólida mantiene ambas capas: comunica lo necesario para que la audiencia interprete la pieza y conserva internamente las fuentes y decisiones necesarias para responder por ella.

Conclusión: la ventaja no está en publicar sin fricción

La IA puede ayudar a ordenar material, comparar formulaciones y acelerar un primer borrador. El criterio profesional aparece cuando alguien distingue una frase atractiva de una afirmación defendible.

Un sistema editorial responsable no revisa cada palabra con la misma intensidad. Localiza las afirmaciones que pueden afectar decisiones, asigna controles según el riesgo y deja una salida real para detener el flujo. Así protege la velocidad útil sin presentar certeza donde solo existe plausibilidad.

Antes de poner tu firma en la próxima pieza, no preguntes únicamente si suena bien. Pregunta qué tendría que mostrar si un cliente, un colega o un regulador pidiera el respaldo de la frase más convincente.

Referencias

NIST. «Artificial Intelligence Risk Management Framework (AI RMF 1.0)». https://doi.org/10.6028/NIST.AI.100-1

NIST. «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile». https://doi.org/10.6028/NIST.AI.600-1

OECD. «OECD AI Principles». https://oecd.ai/en/ai-principles

European Commission. «AI Act». https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

UNESCO. «Recommendation on the Ethics of Artificial Intelligence». https://www.unesco.org/en/artificial-intelligence/recommendation-ethics