3 niewygodne prawdy o używaniu Google Gemini

Google Gemini stał się jednym z najpopularniejszych asystentów sztucznej inteligencji, głęboko zintegrowanym z wyszukiwarką czy systemem Android. Jego możliwości, od generowania kodu po tworzenie obrazów, przyciągają miliony użytkowników. Jednak za tą fascynującą fasadą kryją się istotne kompromisy, o których warto wiedzieć, zanim powierzymy mu ważne zadania. Oto trzy kluczowe, choć niewygodne, prawdy na temat korzystania z tego narzędzia.

Kompromisy w sferze prywatności

Wygoda korzystania z Gemini ma swoją cenę, a płacimy ją często danymi. Polityka prywatności tego narzędzia jest w tej kwestii dość jednoznaczna. Google gromadzi niemal wszystko, co mu przekazujemy: nasze zapytania (pisane i mówione), udostępniane pliki, zdjęcia, a nawet zrzuty ekranu. Zbiera także informacje z urządzeń, na których działa aplikacja.

Ludzcy recenzenci za ekranem

Choć większość danych przetwarzają algorytmy, firma otwarcie przyznaje, że część rozmów z asystentem jest przeglądana przez ludzi. Co istotne, nie wszyscy z tych recenzentów są bezpośrednimi pracownikami Google. Mimo że koncern podejmuje kroki w celu anonimizacji tych informacji, ryzyko, że wrażliwa treść naszej konwersacji trafi przed ludzkie oczy, pozostaje realne. Jeśli dzielimy się z Geminim poufnymi dokumentami lub prowadzimy intymne dyskusje, powinniśmy mieć świadomość, że nie są one analizowane wyłącznie przez „oczy AI”.

Ograniczone możliwości rezygnacji

Użytkownik ma wprawdzie opcję wycofania się z tego rodzaju zbierania danych, ale jest ona obwarowana ograniczeniami. Nawet po jej aktywacji Google przechowuje dane przez 72 godziny w celach związanych z bezpieczeństwem. Co więcej, rezygnacja dotyczy tylko przyszłych rozmów, a nie tych już przeprowadzonych. Chociaż możemy ręcznie usunąć historię czatu, firma może ją przechowywać nawet do trzech lat, jeśli dana konwersacja została wcześniej oznaczona przez recenzenta.

Problem halucynacji i nieścisłości

Gemini, podobnie jak inne duże modele językowe (LLM), ma tendencję do generowania przekonująco brzmiących, ale całkowicie zmyślonych informacji. Zjawisko to, powszechnie nazywane halucynacją AI, stanowi poważne wyzwanie, zwłaszcza że odpowiedzi Gemini często pojawiają się na pierwszym miejscu w wynikach wyszukiwania Google.

Zbyt pewne siebie błędy

Każda rozmowa z asystentem opatrzona jest przypisem ostrzegającym, że może on popełniać błędy i że należy je weryfikować. Mimo to pewność, z jaką Gemini prezentuje nieprawdziwe stwierdzenia, bywa zwodnicza i potencjalnie niebezpieczna. Sieć obiegły już przykłady jego kuriozalnych porad, takie jak sugerowanie użycia nietoksycznego kleju do przymocowania sera do pizzy czy rekomendacja spożywania jednego kamienia dziennie w celu uzupełnienia minerałów.

Konieczność samodzielnej weryfikacji

Obecnie nie ma skutecznej metody, która całkowicie wyeliminowałaby halucynacje w generatywnej sztucznej inteligencji. Jedynym rozsądnym zabezpieczeniem jest zatem zdrowy sceptycyzm. Eksperci zalecają, aby traktować każdą informację faktograficzną podaną przez Gemini z przymrużeniem oka i zawsze weryfikować ją w innych, wiarygodnych źródłach. To szczególnie ważne, gdy korzystamy z asystenta do celów edukacyjnych, badawczych lub zawodowych.

Nadmierna korekta i przekłamania

W odpowiedzi na słuszne zarzuty dotyczące rasowych i genderowych uprzedzeń w modelach AI, twórcy Gemini wpadli w inną pułapkę – nadgorliwej korekty. Próba uniknięcia stereotypów za wszelką cenę doprowadziła czasem do generowania obrazów i treści, które fałszują rzeczywistość historyczną i społeczny kontekst.

Przepisywanie historii

Najgłośniejsze przykłady tego zjawiska ujawniły się w 2024 roku, gdy narzędzie do generowania obrazów w Gemini zostało poproszone o wizualizacje historycznych postaci. Użytkownicy otrzymywali wówczas wizerunki zróżnicowanych rasowo Ojców Założycieli Stanów Zjednoczonych, azjatyckich wikingów czy osób kolorowych w mundurach niemieckich żołnierzy z lat 40. XX wieku. Była to bezpośrednia konsekwencja „twardo zakodowanej” chęci uniknięcia pokazywania wyłącznie białych mężczyzn na pozycjach władzy czy znaczenia.

Brak gwarancji na przyszłość

Firma Google publicznie przeprosiła za te incydenty i wprowadziła poprawki mające zapobiec ich powtórzeniu. Specjaliści zwracają jednak uwagę, że fundamentalny problem zrównoważenia reprezentacji z historyczną dokładnością pozostaje nierozwiązany. Nie ma więc pewności, że w przyszłości nie dojdzie do podobnych, nadmiernie ingerujących w treść interwencji algorytmu, motywowanych walką z uprzedzeniami.

W odpowiedzi na słuszne zarzuty dotyczące uprzedzeń w modelach AI, twórcy Gemini wpadli w pułapkę nadgorliwej korekty, która czasem fałszuje rzeczywistość.

Gemini to potężne narzędzie, które może znacząco usprawnić wiele codziennych zadań. Świadomość jego ograniczeń – w zakresie prywatności, wiarygodności i obiektywizmu – nie powinna jednak zniechęcać do eksperymentowania, a raczej uzbrajać użytkownika w zdrowy rozsądek. Kluczem jest traktowanie go jako inteligentnego, lecz omylnego asystenta, a nie nieomylnej wyroczni. Rozwój generatywnej sztucznej inteligencji wciąż trwa, a zrozumienie jej obecnych niedoskonałości jest pierwszym krokiem do odpowiedzialnego i produktywnego z niej korzystania.