5) Riesgos y limitaciones

Volver al índice

Finalmente, es fundamental considerar los riesgos y limitaciones asociados al uso de la IA, para de ese modo evitar inconvenientes y usos indebidos.

Como principales riesgos y limitaciones se pueden mencionar:

Alucinaciones

Uno de los riesgos más importantes y conocidos es que la IA puede ofrecer datos o afirmaciones falsas con total seguridad, como si fueran ciertas. A este fenómeno se lo conoce como alucinación. Por ejemplo, puede citar un libro que no existe, inventar una fecha histórica o atribuir una frase a un autor equivocado. Por eso, es fundamental verificar la información en fuentes confiables antes de usar lo que la IA genera, sobre todo en temas sensibles (salud, derecho, finanzas, etc.).

Locuacidad

Otra característica antes la que debemos estar alertas es que los chats de IA no suelen admitir que “no saben” o que tienen dudas, sino que tienden a producir alguna respuesta. Esto ocurre porque el modelo está diseñado para mantener la conversación fluida, evitando quedarse “en blanco”. Este comportamiento muestra que la IA tiene un sesgo de completitud: prefiere dar una salida, aunque sea incorrecta o inventada, antes que reconocer un vacío. En otras palabras, la IA no tiene miedo a la hoja en blanco: siempre intentará responder, incluso cuando la respuesta pueda ser incierta o equivocada.

Complacencia (pero…)

Los chats de IA tienden a dar la razón al usuario cuando señala un error, independientemente de si tiene razón o no. Esta “complacencia” responde al diseño del modelo para alinearse con las instrucciones del usuario. Sin embargo, que la IA responda “sí, tenés razón” no garantiza que corrija realmente el error de fondo; a menudo es solo un ajuste superficial que puede mantener o crear nuevos errores. Por eso es importante no conformarse con la respuesta complaciente y verificar si hubo una corrección sustancial.

Sesgos y discriminación

Los modelos de IA pueden perpetuar o amplificar sesgos presentes en sus datos de entrenamiento, reproduciendo estereotipos de género, raza, clase social u otras características. Estos sesgos no siempre son evidentes en las respuestas, ya que pueden manifestarse de forma sutil en el lenguaje, ejemplos utilizados, o en las perspectivas que privilegia o ignora. Por eso es crucial mantener una mirada crítica sobre las respuestas, especialmente en temas sensibles.

Problemas con lógica compleja o matemáticas avanzadas

Aunque la IA puede resolver operaciones sencillas, en cálculos complejos o razonamientos lógicos formales (como demostraciones matemáticas o problemas de lógica simbólica) puede cometer errores sutiles o graves. Por ejemplo, puede “saltarse” un paso clave o aplicar una regla incorrectamente, generando un resultado plausible pero erróneo.

Limitaciones con citas textuales exactas

La IA no accede directamente a bases de datos de textos completos, por lo que no puede garantizar la fidelidad de una cita literal. Puede parafrasear con precisión o inventar citas que suenan creíbles, pero no debe usarse como fuente primaria para citas textuales.

Conocimiento limitado en el tiempo

Los modelos sin conexión a internet tienen una fecha de corte en sus datos de entrenamiento. Esto significa que no conocen eventos posteriores a esa fecha, lo que puede llevar a respuestas desactualizadas o incompletas. Esto se puede mitigar activando la búsqueda web. En la actualidad varios de los modelos automáticamente consultan la web cuando detectan que la consulta remite a información que puede estar mas actualizada en línea.

Dificultad con preguntas ambiguas o muy abiertas

Si el prompt no es claro, la IA puede responder de forma vaga, genérica o poco útil. Cuanto más específico y bien formulado sea el pedido, más precisa será la respuesta.

Limitaciones técnicas

Los servicios gratuitos suelen tener límites de uso. Al alcanzarlos, el chat puede restringir el acceso por tiempo, reducir la calidad de respuesta o cambiar al modelo menos avanzado. Es importante estar atento a estos cambios para interpretar adecuadamente las respuestas.

Riesgos de privacidad

Se debe evitar compartir información sensible (datos personales, médicos, empresariales) en chats de IA, ya que estos pueden almacenarse o usarse para entrenamiento. No se debe asumir que la conversación se va a mantener confidencial. Algunas aplicaciones permiten configurar la privacidad de las conversaciones y durante cuanto tiempo se almacenan en los servidores, pero se trata de un tema que aún es problemático. Las políticas de privacidad en general son difíciles de comprender y no está claro hasta que punto se cumplen.

En resumen, el principio general es no confiar totalmente en las respuestas que ofrece la IA, sobre todo sobre temas complejos o controversiales, y pasar esas respuestas por el tamiz de nuestro criterio y conocimiento.