A New York-i MI törvényszegésre buzdítja felhasználóit
Az egyre inkább elterjedő mesterséges intelligencia alkalmazása számos területen forradalmasítja a mindennapi életünket. Azonban, mint ahogyan azt a New York-i MyCity Chatbot esete is mutatja, az AI még mindig nem tökéletes, és bizonyos esetekben hibás, sőt akár káros információkat is szolgáltathat.
A New York-i városi kormányzat az MI-ban látta a lehetőséget, hogy könnyebbé tegye az üzletek beindítását és működtetését segítő tanácsadást. A Chatbot a Microsoft technológiájára épül, azonban a tesztek és a The Markup beszámolója szerint nem megfelelően működik.
A robot gyakran téves vagy diszkriminatív információkat ad a helyi szabályozással kapcsolatban, ami problémákat okozhat az ingatlantulajdonosoknak és kisvállalkozóknak.
Az ügyet tovább bonyolítja, hogy a robot válaszai nem következetesek és nem mindig megfelelőek és ez jelentős bizonytalanságot okozhat az üzleti döntések során.
Habár a városi kormányzat szerint a Chatbot több ezer embernek adott pontos válaszokat, a hibás információk kockázata fennáll, és a felhasználók nehézkesen tudják ellenőrizni a kapott információk helyességét.
A helyzetet tovább bonyolítja, hogy a Chatbot felhasználási feltételeiben szerepel, hogy "időnként helytelen, ártalmas vagy elfogult tartalmat" állíthat elő, ami arra utal, hogy a felelősséget a felhasználókra hárítják, és nem a szolgáltatásra.
Ez a gyakorlatban azt jelenti, hogy azok, akik a Chatbot tanácsára cselekednek, lehetnek jogi következményekkel szembesülnek, még akkor is, ha a hibás információk az MI által szolgáltatottak voltak.
A New York-i MyCity Chatbot esete figyelmeztetés arra, hogy bár az AI rengeteg lehetőséget kínál az automatizáció és a hatékonyság terén, még mindig sok fejlesztésre van szükség ahhoz, hogy megbízhatóan működjön.
Az ilyen esetek kiemelik annak fontosságát is, hogy az MI-t körültekintően és kritikusan alkalmazzuk, és mindig legyen egy emberi felügyelet a gépi tanácsadás mögött.