Slack, powszechnie używana platforma do komunikacji w miejscu pracy, wykorzystuje dane użytkowników w celu zwiększenia możliwości sztucznej inteligencji.
Informacje, do których sztuczna inteligencja uzyskuje dostęp, obejmują wykorzystywanie wiadomości, plików i innych treści generowanych przez użytkowników w celu ulepszania funkcji, takich jak rekomendacje kanałów, funkcja wyszukiwania, automatyczne uzupełnianie i sugestie emoji.
Chociaż te ulepszenia mają na celu usprawnienie doświadczenia użytkownika, praktyka wykorzystywania danych użytkownika wzbudziła obawy dotyczące prywatności i zgody.
Dekodowanie algorytmu sztucznej inteligencji Slacka to dane użytkownika, które są tajnym składnikiem
U podstaw szkolenia AI w Slack leży wykorzystanie interakcji użytkownika na platformie. Analizując wzorce w wiadomościach, plikach i innych formach komunikacji, modele sztucznej inteligencji Slacka uzyskują spostrzeżenia, które są następnie wykorzystywane do ulepszania różnych funkcji. To podejście, choć pozornie korzystne dla poprawy doświadczenia użytkownika, rodzi pytania dotyczące zakresu, w jakim uzyskuje się dostęp do danych użytkownika i sposobu ich wykorzystania. To oczywiście przemyślenia firmy. Użytkownicy są bardzo zaniepokojeni tą sytuacją.
Dostęp do tych treści, które mogą obejmować prywatne wiadomości, informacje o firmie lub poufne pliki, za zgodą sztucznej inteligencji firmy, zaczął budzić wątpliwości etyczne.
Domyślne włączenie wywołuje dyskusję
Jednym z najbardziej kontrowersyjnych aspektów szkolenia AI w Slacku jest domyślne włączenie wszystkich użytkowników. Oznacza to, że jeśli użytkownik lub organizacja nie zrezygnuje wyraźnie, jego dane zostaną automatycznie uwzględnione w procesie szkoleniowym. Praktyka ta spotkała się z krytyką ze strony tych, którzy uważają, że użytkownicy powinni być informowani i mieć możliwość uczestniczenia w gromadzeniu danych przed jego rozpoczęciem.
Ujawniono kontrowersje: potwierdzenie i odpowiedź Slacka
Sprawa zyskała na popularności, gdy Corey Quinn, dyrektor DuckBill Group, publicznie skrytykował politykę Slacka dotyczącą sztucznej inteligencji. W odpowiedzi firma Slack potwierdziła, że wykorzystuje treści użytkowników do szkolenia niektórych swoich narzędzi AI, wyjaśniając jednocześnie, że dane klientów nie są wykorzystywane do szkolenia płatnych narzędzi AI. Firma stwierdziła również, że organizacje lub administratorzy przestrzeni roboczej mogą zażądać usunięcia ich wiadomości i treści ze zbioru danych szkoleniowych, co rodzi pytania o to, dlaczego takie żądanie jest konieczne na platformie, za którą płacą użytkownicy.
Obawy użytkowników rozprzestrzeniają się w mediach społecznościowych
Kontrowersje nasiliły się jeszcze bardziej platforma mediów społecznościowych X, gdzie wielu użytkowników argumentowało, że Slack powinien był uczynić funkcję szkolenia AI opcjonalną, a nie ustawieniem domyślnym. Pojawiły się obawy dotyczące potencjalnego niewłaściwego wykorzystania prywatnych wiadomości, informacji firmowych i poufnych plików, a także braku łatwego mechanizmu rezygnacji dla indywidualnych użytkowników.
W odpowiedzi na zapytania przedstawiciel firmy Slack powtórzył, że modele sztucznej inteligencji firmy nie są przeznaczone do uczenia się, zapamiętywania ani odtwarzania danych klientów. Podkreślili, że klienci mogą wykluczyć swoje dane ze szkolenia tych (niegeneratywnych) modeli sztucznej inteligencji. Jednakże to wyjaśnienie w niewielkim stopniu rozwiało obawy użytkowników, którzy uważają, że początkowy komunikat dotyczący wykorzystania danych był niejasny i potencjalnie wprowadzał w błąd.
Myląca narracja: rozbieżne stwierdzenia na temat polityki w zakresie sztucznej inteligencji
Oświadczenie Slacka na stronie poświęconej sztucznej inteligencji: „Twoje dane to Twoje dane. Nie używamy go do szkolenia sztucznej inteligencji w Slacku” – dodało zamieszania. Chociaż firma wyjaśnia, że płatne produktywne narzędzia AI nie są szkolone przy użyciu danych użytkowników Slacka, stwierdzenie, że inne modele sztucznej inteligencji są szkolone przy użyciu takich danych, zaprzecza poglądowi, że dane użytkownika pozostają wyłącznie w rękach użytkowników. Adwokat Elżbieta Wharton nazwał decyzję Slacka „bałaganem prywatności” i skrytykował brak łatwego wyjścia dla indywidualnych użytkowników.
Praktyka firmy Slack polegająca na wykorzystywaniu danych użytkowników do szkolenia sztucznej inteligencji, mająca na celu ulepszenie funkcji platformy, wywołała poważne kontrowersje. Domyślne włączenie użytkowników, brak jasnej komunikacji i potencjalne konsekwencje dla prywatności podsyciły debaty na temat zgody, przejrzystości i etycznego wykorzystania danych w epoce cyfrowej. Ponieważ sztuczna inteligencja w dalszym ciągu odgrywa coraz większą rolę w różnych aspektach naszego życia, dyskusja na temat danych użytkowników i ich wykorzystania prawdopodobnie pozostanie w centrum uwagi zarówno konsumentów, jak i firm.
Autor wyróżnionego obrazu: Stephen Phillips – Hostreviews.co.uk / Unsplash
Source: Sztuczna inteligencja Slacka opiera się na danych użytkownika
