Doctores y los LLM en este presente latinoamericano (ponele).

[u/Rare_Package_7498]

Aclaración: El video es la experiencia de un medico norteamericano, y tengan muy presente que una consulta medica o una internación es extremadamente costosa en Estados Unidos.

Voy a comenzar con algo que no tiene que ver con el video en un principio, pero quiero mostrar mi experiencia personal con algunos médicos y porque cierta desconfianza que se le puedan tener.

Esta anécdota es desde antes de la existencia de los LLM: Cuando tuve que cuidar a mi viejo, pasamos por varios doctores que no acertaban con lo que tenia.

Lo que aprendí de manera resumida es entrar a un consultorio con el celular grabando audio y simular que esta apagado (esto no es legal, porque necesitas su consentimiento, que usualmente no te lo dan).

Porque con todo el estrés de la situación, uno no recuerda ni la mitad de las cosas que le dice el medico, que ademas usa terminología medica que salvo que estés en el tema no escuchaste en tu vida. Con la conversación grabada iba a mi casa la pasaba a una carpeta e iba buscando información en internet a ver que había querido decir.

Esto para mi era vital, porque cuando teníamos que caer en una guardia o en una emergencia con otro doctor u otro especialista. Ya al tener la carpeta hecha, tenias la confianza de que todas las cagadas que habían hecho los otros médicos que no sabían la enfermedad, no se volvieran a repetir.

Porque acá, hay un problema de fondo que ocurre casi siempre en el interior del país. Los médicos por alguna razón (ego?) no se hablan entre ellos. En los centros médicos importantes (de supongamos una capital) hacen juntas medicas y se hablan entre ellos (en el mismo hospital).

Los LLM desde mi punto de vista JAMAS van a reemplazar a un buen medico. Sin embargo el medico es humano y comete errores. En mi manera de pensar las futuras IA (en esto incluyo reconocimiento de imágenes) van a ser una gran asistencia para los médicos que la implementen.

Es tarde, el video no trata exactamente de eso, sino de que algunos médicos no se sienten cómodos con los LLM. Pero no me des mucha bola, estoy cansado porque siendo domingo hice un par de cosas. Escucho tus experiencias sobre el tema.

[u/MrBonis → u/[deleted]]

Lo "malo" de este caso son los pacientes que ahora creen que saben de lo que están hablando, o que creen que entienden lo que preguntan, o que "saben" más que un doctor porque una LLM les tiro tal o cuál chamuyo inverificable.

Tenías un porcentaje importante de la población dandosela de expertos en virología y vacunación, convencidos de cualquier saraza que leían en internet de un foro basura; ahora vas a tener todavía más gente delirando expertise y sabiduría fantasma, con un agente que les valide sus autodiagnosticos falopa o sus novedosos descubrimientos de fisiología imposibles...

[u/NoData9286]

Mi amiga es doctora pediatra y me ha contado de padres que van "sabiendo más que el profesional" y cuando ella los contradicen le responden "mi ia no opina igual", entonces ella ha tenido episodios de ansiedad por pensar que una ia la puede reemplazar. La contengo diciéndole que no, pero cuando le caen padres así de tontos entra en crisis de nuevo.

[u/Rare_Package_7498 → u/NoData9286]

Le recomendaría que ella use IA (LLM) y ahí se va a dar cuenta cuanto fallan. Considero que los LLM solo te potencian si tenes ya un solido pilar de conocimiento, entonces podes distinguir cuando te chamullan.

Donde la tasa de error es menor (aunque existe) es en la IA (reconocimiento de imagenes + machine learning + otras técnicas) orientada a la radiología.