Halucynacja AI

Halucynacja AI to sytuacja, w której model sztucznej inteligencji generuje przekonująco brzmiącą, ale nieprawdziwą lub niepopartą źródłami informację.

Halucynacja AI to określenie odpowiedzi wygenerowanej przez model sztucznej inteligencji, która brzmi wiarygodnie, ale zawiera informacje nieprawdziwe, zmyślone albo nieuzasadnione dostępnymi danymi.

Model może np. podać nieistniejące źródło, pomylić fakty, przypisać komuś wypowiedź, która nie padła, albo stworzyć szczegół, którego nie było w materiale wejściowym.

Problem wynika m.in. z charakteru modeli generatywnych – ich zadaniem jest generowanie prawdopodobnej odpowiedzi, a nie gwarantowanie prawdziwości każdego stwierdzenia.

Dlatego informacje generowane przez AI, szczególnie dane liczbowe, źródła, cytaty, informacje prawne, medyczne, finansowe i biznesowe, powinny być weryfikowane przed wykorzystaniem.