Chociaż sztuczna inteligencja rozwija się szybko, wydaje się, że system rozpoznawania obrazów Google nadal ma problem, który istnieje od ośmiu lat: skutecznie wykrywa obrazy goryli.
Kiedy inżynier oprogramowania Jacky Alciné odkrył, że zdjęcie przedstawiające go i jego kumpla zostało błędnie zidentyfikowane jako goryle przez algorytm rozpoznawania obrazu, który został zawarty w aplikacji Zdjęcia firmy w 2015 roku, firma znalazła się pod ostrzałem. Zarówno Alcine i jego towarzysz są Czarny. Google był przerażony i szybko naprawił rasistowski błąd, uniemożliwiając programowi oznaczanie zdjęć goryli.
Problem nadal nie został odpowiednio rozwiązany osiem lat później. Użytkownicy mogli wyszukiwać swoje zdjęcia według różnych gatunków zwierząt, takich jak koty i kangury, ale nie według goryli, pawianów, szympansów, orangutanów czy małp. Eksperyment New York Timesa.
Obrazy naczelnych nadal nie są oznaczone w Zdjęcia aplikacja. Nie jest jasne, czy korporacja nie może naprawić problemu lub czy wdrożenie tej funkcji byłoby zbyt kontrowersyjne lub niebezpieczne. Co ciekawe, błąd dotyczył również oprogramowania do przechowywania OneDrive firmy Microsoft i Aplikacja Apple PhotoChociaż Amazonka Zdjęcia często błędnie identyfikowali inne zwierzęta jako goryle.
Alcine wyraził rozczarowanie, że Google nie rozwiązał jeszcze problemu. Nigdy nie zaufam tej sztucznej inteligencji, powiedział.
OpenAI promuje demokratyczną kontrolę AGI
Organizacja non-profit OpenAI obiecała przekazać łącznie 1 milion dolarów tym, którzy przedstawią innowacyjne sugestie, jak stworzyć system demokratyczny, który pozwoliłby zwykłym ludziom wpływać na rozwój sztucznej inteligencji.
Do 2 czerwca każdy może zgłaszać swoje propozycje. Dziesięć najlepszych zgłoszeń zostanie wybranych przez startup AI, który następnie nagrodzi każdego zwycięzcę $100 000 aby mogli rozpocząć opracowywanie prototypów swoich koncepcji.
W tym tygodniu OpenAI powiedział w poście na blogu, że „AGI powinno przynosić korzyści całej ludzkości i być zaprojektowane tak, aby było jak najbardziej otwarte”. „Ten program nagród jest uruchamiany jako pierwszy krok w tym kierunku. Szukamy zespołów z całego świata, które stworzą weryfikację koncepcji demokratycznej procedury, która może rozwiać obawy dotyczące norm, których muszą przestrzegać systemy sztucznej inteligencji.
Według OpenAI dotacje są eksperymentami, a firma może, ale nie musi, wykorzystać którąkolwiek z koncepcji. Firmę pociągają podejścia, które zachęcają szerokie grono osób do wyrażania opinii na temat kwestii, które nie zawsze najlepiej rozwiązuje przestrzeganie litery prawa.
„Na przykład, biorąc pod uwagę, że różne grupy mają różne poglądy na temat osób publicznych, w jakich okolicznościach systemy sztucznej inteligencji powinny potępiać lub krytykować takie osoby?
W jaki sposób rozbieżne opinie powinny być przedstawiane w wynikach AI? Czy sztuczna inteligencja powinna reprezentować osobowość przeciętnego człowieka na świecie, naród użytkownika, jego demografię, czy może domyślnie coś zupełnie innego? Nikt, biznes ani naród nie powinien mieć uprawnień do wydawania takich osądów, napisano.
Anthropic zbiera 450 milionów dolarów w ramach inwestycji Serii C
Anthropic, firma zajmująca się sztuczną inteligencją, utworzona częściowo przez byłych pracowników OpenAI, pozyskała 450 milionów dolarów w ostatniej rundzie finansowania, której liderem był Spark Capital.
Google, Salesforce Ventures, Sound Ventures, Zoom Ventures i inni inwestorzy wspierają inwestycję Serii C. Claude, rozbudowany model językowy Anthropic, jest używany do pozyskiwania nowych klientów. Według CEO Dario Amodeiśrodki zostaną wykorzystane na opracowanie kolejnych pozycji.
„Cieszymy się, że ci szanowni inwestorzy i firmy technologiczne pomagają Anthropic w realizacji celu, jakim jest prowadzenie badań nad sztuczną inteligencją i opracowywanie rozwiązań zwiększających bezpieczeństwo. Rozwiązania, które opracowujemy, mają na celu zapewnienie niezawodnych usług AI, które przyniosą korzyści konsumentom i firmom zarówno dzisiaj, jak iw przyszłości.
Anthropic powiedział, że jego celem było stworzenie bezpieczniejszych towarów za pomocą metod dopasowywania AI, aby kierować swoim chatbotem, aby postępował zgodnie z instrukcjami i zapewniał akceptowalne odpowiedzi. Niedawno firma zwiększyła obsługę tokenów okna kontekstowego Claude’a do 100 000, umożliwiając jej analizę setek stron dokumentów jednocześnie.
Chcesz wiedzieć, jak zarejestrować się w wyszukiwarce Google AI?
Source: Problemy z rozpoznawaniem obrazów Google: Goryle nadal stanowią problem • TechKrótko