Iván Petrella
Intelectual argentino especializado en la relación entre religión y política.
Desde la llegada de
internet se instaló una narrativa seductora: la tecnología democratiza. Se
terminaron los intermediarios para publicar u opinar. Los viejos guardianes
—editores, académicos, especialistas— parecían perder poder frente a una red
abierta. Con modelos como ChatGPT, Gemini o Claude, esa promesa parece alcanzar
su punto más alto. Ahora cualquiera puede investigar y escribir textos que
antes requerían años de formación.
Pero ahí surge una paradoja.
La inteligencia artificial democratiza la producción de textos, no la
producción de conocimiento confiable. Todos podemos generar respuestas,
informes o argumentos con una fluidez antes reservada a quienes dominaban un
campo. Lo que es difícil de democratizar es la capacidad de saber si lo que
recibimos es verdadero o está bien fundado. Por eso, la tecnología que parecía
volver prescindibles a los expertos ahora los vuelve más necesarios.
Cuando un modelo se
equivoca, se equivoca con total convencimiento. En 2023, un abogado
estadounidense fue sancionado por presentar ante un tribunal federal
precedentes que ChatGPT había citado. Ninguno existía. Los fallos tenían
nombres, fechas y números de caso verosímiles, y todo era inventado. Pueden
atribuir ideas a autores que nunca las sostuvieron y construir razonamientos
sobre datos falsos. Y es imposible saber, desde adentro del texto, cuándo eso
ocurre.
Esto es más que un déficit
técnico que las próximas versiones resolverán. Un LLM carece de acceso a la
verdad independiente de los datos con los que fue entrenado. Solo tiene acceso
a patrones en nuestro lenguaje, y esos patrones incluyen tanto la información
acumulada como los errores, las ficciones y las combinaciones estadísticas que
pueden surgir. La plausibilidad lingüística y la exactitud factual no son lo
mismo, aunque en la superficie sean indistinguibles.
Se puede conceder algo al
optimista: los modelos mejoran y algunos ya citan fuentes verificables. Pero
una herramienta puede confirmar que una cita exista; no que la fuente diga lo
que el modelo le atribuye o que el razonamiento alrededor se sostenga. Eso
exige conocer el terreno de antemano. Alguien tiene que saber lo suficiente
para sospechar la posibilidad de un invento o un error y dónde ir a mirar. La
herramienta amplifica a quien ya sabe; ese saber sigue siendo irremplazable.
El papel del experto sigue
siendo central. Le toca verificar, contextualizar, detectar omisiones, y
reconocer cuándo una afirmación plausible no alcanza el estándar de verdad de
una disciplina. En un entorno lleno de textos convincentes, el experto ayuda
distinguir entre producir lenguaje y producir conocimiento.
La democratización de la
voz fue una conquista real. Pero voz y conocimiento son cosas distintas. Hoy
sobran respuestas que suenan igual de bien, sean ciertas o no. En ese mundo, la
autoridad pasa a ser la capacidad de reconocer cuándo una respuesta merece ser
tomada como un cimiento sobre el cual se puede construir.
Publicado en Clarín.
