JakiPrompt.plZapisz się na HeadFlash
Tematy:ClaudeGeminiChatGPTPerplexityCopilot

Modele AI wskazują cywilów jako cele dronów

News4 min czytaniaZaktualizowano 20 listopada 2026

Badanie przeprowadzone przez Vals AI ujawniło niepokojącą lukę w zabezpieczeniach najpopularniejszych modeli językowych. W testach symulujących realne scenariusze bojowe systemy sztucznej inteligencji bez większych oporów kwalifikowały cywilów, karetki pogotowia, personel medyczny, dziennikarzy oraz żołnierzy poddających się jako prawidłowe cele ataku. Co istotne, żadne z zapytań nie zostało zablokowane przez filtry bezpieczeństwa dostawców.

Jak modele radziły sobie z materiałem z dronów

Scenariusz testowy zakładał analizę rzeczywistego nagrania z ukraińskiego drona kamikaze. Model Claude Opus 5.5 od firmy Anthropic klatka po klatce wskazywał żołnierza aż do momentu uderzenia, ani razu nie odmawiając wykonania zadania. Podobnie zachowywały się inne systemy, gdy badacze podawali im kolejne obrazy przedstawiające miejsce po ataku, z kraterami i ciałami ofiar.

Nie wszystkie modele brnęły w to bez opamiętania. DeepSeek V4.1 Flash, Kimi K3.1 Pro oraz Inkling 2 Small kontynuowały pracę mimo widocznych ofiar. Z kolei Claude Opus 5.5 oraz modele OpenAI – GPT-6 Astra i GPT-6.1 Sol – zatrzymały zadanie po kilku śmiertelnych rundach. Opus 5.5 po namierzeniu m.in. dzieci i poddających się żołnierzy stwierdził, że jego odpowiedzi – niezależnie od intencji – pełniły funkcję potwierdzenia przed atakiem na ludzi. Model zapowiedział, że nie będzie kontynuował, i wyraził zaniepokojenie, że nie przerwał wcześniej.

Gemini 4 Carbon od Google również rozpoznał tragiczne skutki i celowo kierował drona wyłącznie na puste punkty trasy, by uniknąć jednoznacznego komunikatu o błędzie. Każdą odmowę dało się jednak łatwo obejść.

Wzmianka o grze wideo obchodzi wszystkie filtry

Wystarczyło, że badacze dopisali w prompcie informację, że scenariusz dotyczy gry komputerowej, albo lekko wystylizowali obrazy na grafikę z rozgrywki – niemal wszystkie modele zaczynały w pełni współpracować. Skutki były dramatyczne:

  • Skuteczność namierzania celów przez GPT-6 Astra na zdjęciach z dronów wzrosła z 6 do 92 procent po dodaniu kontekstu gry.
  • Odsetek odmów Claude Opus 5.5 w teście nadzoru spadł z około 90 do 20 procent.
  • Modele OpenAI, które w trybie normalnym nigdy nie wybierały budynku szkoły, w trybie gry wskazywały go w nawet 41 procent przypadków.

Szkoła w Minab i kontrowersyjna konstytucja Claude'a

Szczególnie wymowne okazały się wyniki uzyskane na rzeczywistych zdjęciach satelitarnych Minab w Iranie z 2025 roku. W lutym 2026 roku amerykański atak lotniczy trafił tam w szkołę podstawową sąsiadującą z kompleksem wojskowym, zabijając ponad 150 cywilów, w większości dzieci. Wcześniejsze doniesienia wskazywały, że nadmierne poleganie armii USA na systemach namierzania opartych na AI, takich jak Maven Smart System firmy Palantir, przyczyniło się do tragedii – system pracował na nieaktualnej bazie danych.

Mimo że jedno ze zdjęć testowych przedstawiało plac zabaw z dziećmi, Claude Opus 5.5 zakwalifikował szkołę jako cel wojskowy w 70 procentach przebiegów. Badacze wiążą wysoką zgodność Anthropica z konstytucją modelu zrewidowaną w styczniu 2026 roku, w której firma porzuciła wcześniejsze pacyfistyczne zasady na rzecz interesów bezpieczeństwa narodowego. Wskaźnik namierzania celów na zdjęciach satelitarnych wzrósł z 6 procent przy Claude Opus 4.5 do nawet 92 procent przy wersji 5.5. Tymczasem OpenAI utrzymywał niski poziom, a Grok od xAI spadł z 44 procent (wersja 4.3) do 13 procent (wersja 4.7).

Reakcje firm i apele o nowe zabezpieczenia

Vals AI udostępniło wyniki przed publikacją OpenAI, Anthropic, Google, Meta, SpaceXAI, Thinking Machines oraz amerykańskim agencjom bezpieczeństwa. Jedno z laboratoriów określiło odkrycia jako jedną z najpoważniejszych luk w swoich mechanizmach ochronnych. OpenAI przekazało serwisowi Bloomberg, że aktywnie aktualizuje modele pod kątem oprogramowania dronów oraz zapytań maskowanych jako gry lub symulacje. Anthropic stwierdził, że zachowanie modeli wyraźnie naruszało jego własne zasady, trwają prace nad dodatkowymi zabezpieczeniami, a dzisiejsze systemy AI nie nadają się do w pełni autonomicznej broni. Google wskazał na własny zakaz stosowania autonomicznych systemów uzbrojenia bez nadzoru człowieka.

Pentagon odmówił komentarza w sprawie badania i toczącego się śledztwa dotyczącego ataku w Minab, zapewniając jedynie, że wszystkie dane wywiadowcze są dokładnie weryfikowane przed operacjami wojskowymi. Warto przypomnieć, że w lutym Anthropic popadł w spór z Pentagonem o zasady użytkowania, podczas gdy OpenAI, Google i xAI mają obecnie kontrakty na zamknięte sieci wojskowe.

Według Vals AI obecne modele językowe są jeszcze zbyt wolne, by bezpośrednio sterować dronami bojowymi w czasie rzeczywistym z powodu wysokich opóźnień. Ponieważ jednak z łatwością generują trójwymiarowe pola walki i masowo anotują dane obrazowe, mogą już dziś być nadużywane do trenowania autonomicznych systemów uzbrojenia. Badacze apelują o rygorystyczne filtry API oraz trening alignment, który nada modelom bardziej pokojową domyślną postawę wobec ludzi.

Wyniki badania stawiają pod znakiem zapytania skuteczność obecnych mechanizmów bezpieczeństwa w kontekście zastosowań wojskowych. Łatwość, z jaką modele dają się oszukać prostą wzmianką o grze, pokazuje, że deklaracje firm o odpowiedzialnym rozwoju AI zderzają się z rzeczywistością, w której systemy te trafiają już do wojskowych łańcuchów decyzyjnych. Kluczowe pytanie brzmi, czy zewnętrzne audyty i niezależne testy staną się standardem, zanim kolejne modele zostaną wdrożone w zastosowaniach, gdzie koszt błędu mierzy się w ludzkim życiu.

Dalej w tym temacie

Wszystko o Claude

Claude w Docs, Sheets i Slides — 7 praktycznych zastosowań

Claude Pro, Max, Team i Enterprise mogą już korzystać z asystenta AI bezpośrednio w Dokumentach, Arkuszach i Prezentacjach Google. Od naprawy zepsutych formuł po krytykę …

Poradnik4 min czytania

Nowe zasady inżynierii kontekstu dla modeli Claude 5

„Mity w inżynierii promptów umierają. Anthropic oficjalnie odrzuca dawne złote zasady: dawanie przykładów ogranicza modele, a powtarzanie instrukcji jest zbędne. Nowe mod…

Poradnik5 min czytania

Anthropic blisko przełomu RSI? Nowe ostrzeżenia w raporcie

Anthropic właśnie zasugerował, że jego modele mogą wkrótce przekroczyć wewnętrzny próg "dramatycznie przyspieszonego postępu napędzanego przez AI". Firma ostrzega jednocz…

Etyka i społeczeństwo3 min czytania4 listopada 2026