Jak wynika z nowego badania przeprowadzonego na Uniwersytecie Hebrajskim, współczesne systemy sztucznej inteligencji dokonują ustrukturyzowanych ocen na temat ludzi, które przypominają ludzkie zaufanie, ale znacznie różnią się metodologią. W badaniu opublikowanym w *Proceedings of the Royal Society* przeanalizowano ponad 43 000 symulowanych decyzji podjętych przez około 1000 ludzi w pięciu scenariuszach.
Scenariusze te obejmowały ocenę decyzji kredytowych, ocenę zaufania do opiekunki do dziecka, ocenę wyników szefa i określenie darowizn na rzecz założycieli organizacji non-profit. Zarówno ludzie, jak i sztuczna inteligencja preferowały osoby postrzegane jako kompetentne, uczciwe i mające dobre intencje.
Prof. Yaniv Dover stwierdził: „Sztuczna inteligencja nie podejmuje przypadkowych decyzji. Wychwytuje coś prawdziwego w tym, jak ludzie oceniają się nawzajem”. Jednak ludzie tworzą całościowe wrażenia, integrując wiele cech, podczas gdy sztuczna inteligencja ocenia oddzielne cechy, takie jak kompetencje i uczciwość.
Valeria Lerman wyjaśniła: „Sztuczna inteligencja jest czystsza, bardziej systematyczna, a to może prowadzić do bardzo różnych wyników”. To strukturalne podejście było widoczne nawet w identycznym kontekście oceniania poszczególnych osób.
Badanie wykazało, że uprzedzenia sztucznej inteligencji mogą być bardziej systematyczne, przewidywalne, a czasem silniejsze niż uprzedzenia ludzkie. W kontekście finansowym systemy sztucznej inteligencji wykazywały znaczne różnice w zależności od cech demograficznych. Osoby starsze były często faworyzowane przy podejmowaniu decyzji o pożyczkach i darowiznach, a religia i płeć również wpływały na wyniki w wybranych modelach sztucznej inteligencji.
Warto zauważyć, że różne modele sztucznej inteligencji mogą generować różne oceny tej samej osoby, co wskazuje, że wybór systemu sztucznej inteligencji może znacząco wpłynąć na wyniki w świecie rzeczywistym. „To, jakiego modelu użyjesz, naprawdę ma znaczenie” – zauważył Lerman.
Duże modele językowe są coraz częściej wykorzystywane do sprawdzania kandydatów do pracy, oceny zdolności kredytowej i podejmowania decyzji organizacyjnych. Chociaż sztuczna inteligencja może odzwierciedlać aspekty ludzkiego rozumowania, brakuje jej zniuansowanego zrozumienia, charakterystycznego dla ludzi.
„Te systemy są potężne” – zauważył Dover. “Potrafią modelować aspekty ludzkiego rozumowania w spójny sposób. Ale nie są ludźmi i nie powinniśmy zakładać, że postrzegają ludzi w taki sam sposób, jak my.”
Naukowcy podkreślają, że badanie podkreśla konieczność zrozumienia osądów sztucznej inteligencji w okresie przechodzenia systemów od narzędzi do autonomicznych decydentów. Wzywają raczej do świadomości niż ostrożności, skupiając się na potrzebie zrozumienia, w jaki sposób sztuczna inteligencja postrzega zaufanie.
