Jorge Alberto Gudiño Hernández
01/09/2024 - 12:01 am
Escritura, lectura e IA (3)
Estamos confiando en la IA para generar documentos importantes (que no revisamos) y, también, para detectar la validez o pertinencia de dichos documentos. Yo no sé a dónde llegaremos.
En mis colaboraciones pasadas he planteado lo que sucedería si la IA fuere capaz de escribir textos (ya lo es) que pasaran por humanos. La idea de que una computadora, un sistema o una máquina pueda generar textos que terminaren siendo firmados por personas causa mucha suspicacia toda vez que no sólo el concepto de autoría entraría en zonas oscuras, sino que, de alguna forma, también podría ser una forma de plagio, toda vez que una persona haría pasar como propio un texto que no produjo.
En la entrega anterior, aventuré la posibilidad de que, en tanto no seamos capaces de diferenciar un texto producido por la IA de otro hecho por un ser humano, sólo un algoritmo informático sería capaz de reconocerlos.
Justo esta misma semana, durante una cena con amigos, uno de ellos me contó sobre un aspirante a ocupar un puesto en la empresa en que él trabaja. La entrevista había salido bien, pero algo le generó sospechas. Buscó un rato y encontró una aplicación en línea a la que ingresó el currículo del candidato. La respuesta fue contundente: había más del 90% de posibilidades de que ese documento hubiera sido generado por alguna IA.
Es decir, la IA evalúa si el texto fue producido por una IA.
Decidió averiguar más cosas. Resulta que hay empresas gigantes de tecnología que hacen grandes partes de sus procesos de contratación a partir de algoritmos que filtran a los candidatos. Así, los departamentos de recursos humanos se ahorran mucho tiempo discriminando propuestas.
El problema, sobra decirlo, es que esos algoritmos están alimentados por información conocida. Como en la compañía de marras la mayor parte de sus empleados han sido hombres, el filtro eliminaba a más mujeres de las deseables sólo por una cuestión de género. En otras palabras, tiene un claro sesgo que, de llevarse a cabo ese mismo proceso indefinidamente, se intensificaría.
Lo interesante es que el sesgo existía antes del uso de la herramienta. Eso no significa, sin embargo, que no sea útil averiguar si los currículos fueron hechos por una IA. O no. Dependiendo de lo que interese. Es probable que la tecnología “sepa” qué es mejor incluir o quitar de esas historias de vida que son la puerta de entrada a muchos procesos de reclutamiento. ¿Por qué no usarlas entonces? Hasta hace pocos años (aun ahora), los procesadores de texto ofrecen plantillas para hacer currículos más llamativos e, incluso, se dan cursos con coaches expertos que ayudan a que al interesado lo contraten. ¿Es muy diferente que un coach o una plantilla hagan el currículo a que lo haga una IA?
No lo sé.
Lo que parece ser un poco más grave es que, en la experiencia de mi amigo, el candidato presentó un documento en el que se aseguraba que sabía hacer más cosas de las que sabe. Un engaño con el que se edulcoró su experiencia, se mejoró, lo hizo más atractivo. Algo que, también, podría hacer uno solo: para mentir no requerimos de la IA. Salvo que ésta, quizá, vuelve a la mentira más consistente o la esconde mejor.
Y seguimos en terrenos prácticos, sin llegar a la creación literaria o a la investigación científica. Algo de lo que tenía pensado hablar hoy, pero esa cena me proporcionó un buen ejemplo de lo que sucede.
Estamos confiando en la IA para generar documentos importantes (que no revisamos) y, también, para detectar la validez o pertinencia de dichos documentos. Yo no sé a dónde llegaremos ni qué tan válido es hacer uno u otro proceso. Lo que me queda más claro, es que me gustaría confiar plenamente en las herramientas que utilizo. Y eso sí parece estar muy lejos de suceder.
Los contenidos, expresiones u opiniones vertidos en este espacio son responsabilidad única de los autores, por lo que SinEmbargo.mx no se hace responsable de los mismos.
más leídas
más leídas
opinión
opinión
destacadas
destacadas
Galileo
Galileo