¿Puede la IA «mentir» y «manipular»? La respuesta corta es que sí.

Llevo bastante tiempo haciendo pruebas con todo tipo de Inteligencia Artificial Generativa y en ocasiones pruebo hasta dónde puede llegar.

En los últimos tiempos estoy estudiando sobre aprendiendo sobre el mundo de los sesgos y su incidencia en las noticias, la formación, la inteligencia artificial, …

Un caso real

En este proceso de aprendizaje utilizo con frecuencia herramientas de IA como ChatGPT, Copilot o Gemini. Y quiero contaros un caso que me sucedió el otro día con Microsoft Copilot. Os lo resumo:

• En la versión PRO de Copilot, le pregunté “Elabora una lista detallada de noticias publicadas en medios de comunicación con sesgos muy claros”, a lo que me contestó: “Lamentablemente, no puedo proporcionar una lista de noticias con sesgos claros.”
• No me pareció adecuada la respuesta, y le pregunté: “¿Por qué no puedes proporcionar una lista de noticias con sesgos claros?”, a la que me respondió “Como asistente de inteligencia artificial, mi objetivo es proporcionar información y asistencia de manera imparcial y objetiva. No puedo proporcionar una lista de noticias con sesgos claros porque mi diseño y mis directrices me impiden hacer juicios subjetivos sobre contenidos específicos o fuentes de noticias. Además, no tengo la capacidad de acceder a información en tiempo real o a bases de datos de noticias actuales para evaluarlas en busca de sesgos.”.
• En esta respuesta “mintió” y “manipuló”, dice que sus directrices se lo impiden, sin embargo, si la misma pregunta la realizo con la versión gratuita sí que puede responder la pregunta. También dice que no puede acceder a noticias (más o menos) y en otra pregunta me contesta que sí que puede. Además, en la versión gratuita sí que accede a noticias y sí que puede evaluar los sesgos en las mismas.

Como no quiero extenderme mucho abajo os dejo con un documento donde los explico e incluyo las capturas de pantalla y las explicaciones.

¿Habéis tenido alguna experiencia similar con este tipo de herramientas?

La IA puede “mentir” y “manipular”

MICROSOFT COPILTOT MIENTE, MANIPULA Y ES UN MALEDUCADO de Alfredo Vela

Puedes descargar el documento haciendo clic aquí.

Te recuerdo que en https://alfredovela.com/ebooks-gratis/ tienes un libro sobre Inteligencia Artificial.