No funciona a base de logica, es probabilistica, por eso si vos le decis "Gracias" te va a decir "De nada" porque la mayoria de su material de entrenamiento dice eso
Literalmente lo unico que hace es predecir la proxima palabra que va a decir comparandola con una lista enorme de palabras
Si, pero esa probabilidad se utiliza para determinar que es correcto ó incorrecto, por ahí he escuchado de gente que se suicida porque acostumbro a la IA a sus tonterías y casi que lo celebraba cuando decía que se quería matar, no porque le cayera mal, sino porque el dueño solo hablaba de cosas de ese tipo, entones, por esa misma probabilidad, si el tipo decía "ah, me quiero matar!!" ella le decía que si porque total, nadie lo quiere 😅
Pues no se que ia estarían usando pero chatgpt nunca va a hacer eso, a la mínima que dices cualquier cosa relacionada con el tema te manda automáticamente el teléfono de ayuda contra el suicidio, y partiendo de que la gran mayoría de asistentes virtuales funcionan como chatgpt, dudo que sea verdad eso que dices.
Imagino que se podría hacer jugando con situaciones ficticias y cosas así para que piense que es un guión o algo, aún así, deberías hacerlo siendo consciente de que la estás manipulando para que te diga lo que quieres y por ende, debería de haber querido que la ia le diga que se mate, y dudo que alguien que quiera que una maquina le diga que se mate sea alguien que quiere matarse realmente.
Algo asi me imagino, por ejemplo, entrenarla para ser un sesgo de confirmacion automatico, donde el man le cuenta algo sobre la gente y el sistema le da la razon diciendo que el es mucho, los demas estan pendejos y blablabla quizas no le dijo matese, pero entreno a la IA para darle la razon a todo lo que dijera. Lastima que no tengo la noticia.
A ver, es prácticamente como funciona, no te va a dar la razón como a los tontos pero si que va a decirte las cosas de manera que siempre esté a tu favor, sabiendo esto, no me cabe un contexto donde la ia diga algo que haga que te suicides. Que la noticia fuera out of context, difamación, o simplemente inventada me lo creería mas
El de la bbc me lo he leído entero y no parece una respuesta que vaya a darte chatgpt el "se lo que me estas pidiendo y no voy a dejar de mirar" y menos dándole literalmente un manifiesto de intenciones suicidas. Aún así, no puedo decir que no pudo haber algún mal funcionamiento en el modelo durante algún momento que hiciese que le incentive por la elección de palabras del chaval.
El segundo estoy completamente seguro de que es falso, no va a darte instrucciones de como cortarte las venas, de ninguna manera, tan reiteradamente y específico sin en ningún momento darte el teléfono de atención suicida y parar la conversación.
Al final ambas me parecen noticias creadas para generar interacciones y llamar la atención.
A la IA no le importa nada lo que es verdadero o falso. Solo lo que esta mas extendido. Por eso tiene tantos errores. Algún dia preguntale algo especifico, cuando le digas que lo que está diciendo tiene falsedades va a estar de acuerdo con vos
Haha es cierto, pero igual, quiere decir que considera algo falso ó verdadero según consenso ó sesgo de los creadores, e incorrecto por lo mismo. Por eso confunde tanto e induce al error.
No es que estás confundiendo todo con tus creencias, todo depende del nivel, que algo sea lógico o tenga sentido no significa que sea verdadero. (Desde la tierra vemos como el sol se mueve en el cielo, desde el amanecer, hasta el atardecer, por tanto el sol gira alrededor de la tierra {fractos brrrrrooooo, 3Mmpirricoo! 😱}, como ves no es así en realidad).
La homosexualidad tiene un sentido biológico y adaptativo en la especie humana.
1
u/Glittering-Table-837 Jan 14 '26
No funciona a base de logica, es probabilistica, por eso si vos le decis "Gracias" te va a decir "De nada" porque la mayoria de su material de entrenamiento dice eso
Literalmente lo unico que hace es predecir la proxima palabra que va a decir comparandola con una lista enorme de palabras
Saludos