OpenAI Lockdown Mode – ochrona przed prompt injection

Ataki na systemy AI przybierają coraz bardziej wyrafinowane formy. Jednym z najgroźniejszych jest prompt injection – technika, w której napastnik ukrywa szkodliwe instrukcje w treściach pobieranych przez model (np. na stronach internetowych), nakłaniając go do ujawnienia poufnych danych. OpenAI postanowiło zmierzyć się z tym zagrożeniem, wprowadzając opcjonalny tryb Lockdown Mode. To dodatkowa warstwa ochrony, która – jak podkreśla firma – nie jest przeznaczona dla każdego, ale może okazać się kluczowa dla organizacji pracujących z wrażliwymi informacjami.

Jak działa Lockdown Mode i przed czym chroni?

Nowy tryb bezpieczeństwa ma na celu uniemożliwienie atakującemu wydobycia danych z konta użytkownika poprzez ograniczenie żądań sieciowych, które model może wykonywać. W praktyce Lockdown Mode nie blokuje samego ataku prompt injection – nie jest w stanie zapobiec przedostaniu się złośliwych instrukcji do treści przetwarzanych przez ChatGPT. Zamiast tego utrudnia ich wykorzystanie do kradzieży informacji, ograniczając połączenia wychodzące modelu.

OpenAI podkreśla, że Lockdown Mode to swoista „ostatnia linia obrony”, która uzupełnia istniejące zabezpieczenia wbudowane w ChatGPT, backend i same modele. Firma od dawna walczy z prompt injection, jednak wraz z rosnącymi możliwościami AI (np. przeglądania internetu) zagrożenie staje się poważniejsze. Lockdown Mode odpowiada na potrzeby użytkowników, którzy obawiają się o wyciek poufnych danych – na przykład haseł, danych klientów czy tajemnic handlowych.

Konsekwencje włączenia – z czego trzeba zrezygnować?

Aktywacja Lockdown Mode wiąże się z ograniczeniem części funkcji, które oferuje ChatGPT i powiązane produkty OpenAI. Oto najważniejsze zmiany:

  • Generowanie i przetwarzanie obrazów – nadal można tworzyć grafiki i przesyłać własne zdjęcia, ale model nie będzie pobierał obrazów z internetu ani wyświetlał ich w odpowiedziach.
  • Analiza plików – ChatGPT nie będzie automatycznie pobierał dokumentów do analizy. Użytkownik może jednak ręcznie przesłać plik, jeśli chce uzyskać opinię modelu.
  • Deep Research i Agent Mode – te zaawansowane narzędzia są całkowicie wyłączone w trybie Lockdown. Wyjaśnienie: Deep Research pozwala na wieloetapowe przeszukiwanie sieci, a Agent Mode umożliwia modelowi wykonywanie autonomicznych działań – oba stwarzają większe ryzyko prompt injection.

Co ważne, Lockdown Mode nie wpływa na pamięć (memory), możliwość przesyłania plików, udostępniania konwersacji ani na to, czy rozmowy są wykorzystywane do ulepszania modeli. Za zarządzanie tymi ustawieniami odpowiadają osobne opcje – w przypadku kont firmowych administratorzy przestrzeni roboczej mogą je konfigurować niezależnie.

Dla kogo jest ten tryb i jak go włączyć?

OpenAI wyraźnie zaznacza, że Lockdown Mode nie jest rozwiązaniem dla wszystkich. Przeciętny użytkownik korzystający z ChatGPT do codziennych zadań raczej nie potrzebuje tak restrykcyjnych zabezpieczeń. Funkcja kierowana jest przede wszystkim do osób i organizacji, które przetwarzają dane szczególnie wrażliwe i chcą minimalizować ryzyko wycieku informacji w wyniku prompt injection.

Tryb jest dostępny dla wszystkich kont osobistych – także dla użytkowników darmowej wersji ChatGPT. Aby go aktywować, wystarczy:

  1. Otworzyć menu ustawień w ChatGPT.
  2. Przejść do zakładki Bezpieczeństwo i prywatność (Safety and security).
  3. Pod opcjami zaawansowanymi znaleźć Lockdown Mode i włączyć przełącznik.

W razie potrzeby można tymczasowo wyłączyć ochronę dla pojedynczej konwersacji – wystarczy kliknąć w komunikat nad polem czatu, wybrać opcję Zarządzaj, a następnie „Wyłącz dla tej rozmowy”.

Aktywny menedżer sesji – kontrola nad dostępem do konta

Równolegle OpenAI wdraża nowego menedżera aktywnej sesji. Użytkownicy zyskują możliwość sprawdzenia, jakie urządzenia i przeglądarki mają dostęp do ich konta. Z poziomu tego interfejsu można wylogować się z pojedynczej sesji lub wszystkich naraz – przy czym pełne wylogowanie może zająć nawet 30 minut. Firma zaleca, by w przypadku podejrzenia nieautoryzowanego dostępu niezwłocznie zmienić hasło (jeśli jest używane), przejrzeć metody logowania i skontaktować się z pomocą techniczną OpenAI.

Te dwa narzędzia – Lockdown Mode i menedżer sesji – pokazują, że OpenAI stawia na wielopoziomowe bezpieczeństwo, reagując na realne zagrożenia związane z interakcją między modelem a otwartym internetem. Choć Lockdown Mode ogranicza część funkcji, dla firm przetwarzających dane wrażliwe może być koniecznym kompromisem między użytecznością a ochroną.

Czy twoja organizacja powinna rozważyć włączenie Lockdown Mode? Odpowiedź zależy od charakteru przetwarzanych informacji i ryzyka, jakie jesteś w stanie zaakceptować. Warto przynajmniej zapoznać się z tą opcją – zwłaszcza że jest dostępna za darmo dla każdego użytkownika ChatGPT.

Źródło

Może Cię zainteresować