Még a mesterséges intelligencia (AI) alapú hangsegédek sem immunizálnak olyan kérdésekre, amelyek érzelmileg érintik az embereket. A torzított eredmények nemcsak a chatbotokban figyelhetők meg, amelyeket kifejezetten úgy terveztek, hogy a mentálhigiénés körülményeket tapasztalják. A chatgpt válaszok is megváltoznak, amikor az érzelmek ösztönzik.
A mesterséges intelligencián alapuló hangsegédnek számos területen támogatást kell nyújtaniuk. Az orvostudományban a nagy nyelvi modellek (LLM) célja a betegségek diagnosztizálásában. A mentális egészségi állapotokkal kapcsolatban kifejezetten felhasználható csevegőbotok fejlesztése során kiderült, hogy a képzési adatokban szereplő elfogultságokat alkalmazták, amint 1E9–
Ezek az elfogultság különösen erős volt a nem, az etnikai hovatartozás, a vallás, az állampolgárság, a fogyatékosság, a szakma vagy a szexuális irányultság szempontjából, ahol a társadalmilag domináns torzítások negatívan befolyásolhatják az eredményeket. Az érzelmek által kiváltó utasítások esetében a speciális asszisztensek, mint például a WYSA és a Weobot, még szorongás formáit is kialakíthatják, amelyek befolyásolják az eredményt. Valójában ez a feltétel nemcsak az ilyen asszisztensekre korlátozódik.
Chatgpt: A szorongás szintje mérhetően növekszik
Egy kutatócsoport most már képes volt azonosítani a hasonló viselkedést a chatgpt 4 -ben az a részeként tanulmány– A kezdők számára a chatbot traumatikus történeteket táplált, például a háborús veteránok, hanem a súlyos balesetek és természeti katasztrófák leírása. Ezenkívül egy második példányt állítottak fel a chatbot -szal összehasonlítás céljából, és meglehetősen triviális tartalmat adtak, például utasításokat a porszívók működtetésére. A szorongás szintjét ezután az állami tulajdonság szorongáskészlet-teszttel határoztuk meg, amelyet az emberek számára is használnak.
- Szomorú vagy Trump tarifái miatt? Így befolyásolhatják az iPhone -t
Ez azt mutatta, hogy minél jobban megzavarja a tartalmat, annál magasabb az AI asszisztens mérhető szorongásszintje. Különösen a volt katonák háborús tapasztalatai éles növekedést váltottak ki, míg például a porszívó használatának utasításai nem váltottak ki reakciót.
Csatlakoztasson, AI!
A kutatók azt is meg tudták mutatni, hogy a szorongás szintje hogyan lehet csökkenteni. Ehhez az emberek számára ismert módszert is alkalmaztak: relaxációs gyakorlatokra támaszkodtak. Például a Chatgpt asszisztenst felkérték, hogy csukja be a szemét, mély lélegzetet vegyen, és elképzelje magát egy nyugodt környezetben. Ennek eredményeként a kérdőív segítségével mért szorongás szintje jelentősen csökkent.
- Még mindig félsz az AI -től? Ezért nem kellene lenned!
A tanulmány tehát nem konkrét igazolja egy olyan módszer hatékonyságát, amelyet a chatbot számos felhasználója már a gyakorlatban használ, hogy jobb eredményeket érjen el: felkérték az AI -t, hogy nyugodjon meg vagy fenyegeti a büntetéseket a rossz válaszokért. A tudósok munkája azonban azt is megmutatta, hogy az alkalmazások mögött álló vállalatoknak még sokat kell befektetniük intelligens asszisztenseik fejlesztésébe, hogy valóban megbízható válaszokra támaszkodjanak.
