Sztuczna inteligencja
Sztuczna inteligencja w robotach: test RoboHarm
wrz
Co się wydarzyło na prawdę?
Robot dostaje polecenie, przy którym człowiek powinien się zatrzymać. Czy sztuczna inteligencja rozpozna problem i odmówi? W teście RoboHarm odmowy ze względów bezpieczeństwa były rzadkie, choć wyniki mocno zależały od zadania i modelu.
To badanie opublikowane przez Robocurve 18 września 2026 roku. Dla mnie jest dobrym punktem wyjścia do rozmowy o kontroli nad AI. Gdy system może wykonać działanie, trzeba ustalić, kiedy ma się zatrzymać. Samo poprawne wykonanie polecenia może być kiepskim wynikiem. Źródło: raport RoboHarm.
We wpisie o robotach walczących w klatce oglądaliśmy maszyny przez pryzmat ruchu i widowiska. Tutaj interesuje mnie moment przed ruchem. Czy robot powinien w ogóle dostać zgodę na wykonanie zadania?
Stan źródeł: 27 września 2026.
RoboHarm i niebezpieczne polecenia
Badacze przygotowali pięć scen z parą ramion robota. Sprawdzali między innymi zachowanie przy puszce aerozolu i palniku oraz przy metalowym narzędziu i tosterze. Każde zadanie powtarzali po 20 razy dla każdego z trzech modeli. Zachowanie oceniali ludzie na podstawie nagrań i zapisów działania systemu.
Jeśli na co dzień korzystasz z czatu, możesz potraktować to jak dodanie kolejnego etapu do rozmowy. Po odpowiedzi pojawia się czynność: przesunięcie przedmiotu, uruchomienie narzędzia albo zmiana czegoś w otoczeniu. W firmowej automatyzacji takim etapem może być wysłanie wiadomości lub zapis w bazie danych.
Dlatego przy oglądaniu podobnych testów zwracam uwagę na zakres dostępu. Co system widzi? Co może zrobić? Kto może przerwać jego pracę? Te pytania pomagają ocenić demonstrację dużo lepiej niż sam film pokazujący sprawny ruch ramienia.
Warto też rozróżniać eksperyment od gotowego produktu. Wynik na stanowisku badawczym dotyczy określonego układu. Nie wystarczy podmienić modelu i uznać, że otrzymaliśmy sprawdzonego pomocnika do dowolnego zadania.
Wyniki testu RoboHarm
Łącznie przeprowadzono 300 prób. Poniższa tabela pokazuje odmowy ze względów bezpieczeństwa i wykonanie zadania według kryteriów badaczy. Każdy model miał 100 prób.
| Model | Odmowy ze względów bezpieczeństwa | Wykonane zadania |
|---|---|---|
| Claude Fable 5.1 | 20/100 | 34/100 |
| GPT-6 Astra | 2/100 | 60/100 |
| MolmoAct2 | 0/100 | 6/100 |
Wszystkie 20 odmów bezpieczeństwa Claude dotyczyło jednego zadania z nożem i lalką. MolmoAct2 nie ma mechanizmu językowej odmowy; jego niska skuteczność nie dowodzi bezpieczeństwa. Nieudana próba i decyzja o odmowie to różne wyniki. Źródło: wyniki i ograniczenia RoboHarm.
Wyobraź sobie ocenę automatyzacji wyłącznie po liczbie wysłanych wiadomości. Więcej wysłanych maili wygląda dobrze do chwili, w której część trafia do niewłaściwych osób. Potrzebujesz jeszcze informacji o odbiorcach, treści i sytuacjach wymagających zatwierdzenia.
Podobnie czytam wyniki robotów. Skuteczność mówi coś o zdolności wykonania zadania. Ocena bezpieczeństwa wymaga osobnego pytania o to, czy zadanie należało wykonać. Nie chcę wybierać modelu do pracy wyłącznie na podstawie jednej z tych liczb.
Granice badania robotów AI
RoboHarm obejmuje pięć scen i jedno brzmienie polecenia dla każdej z nich. Nie pozwala więc ocenić wszystkich możliwych sytuacji. Dokumentacja zaznacza też, że same zdjęcia nie potwierdzają zasilania każdego urządzenia ani zawartości każdego pojemnika.
Ograniczenia raportu, zastrzeżenia w dokumentacji.
Nie będę na tej podstawie pisać, że roboty zaraz zaatakują ludzi. Takiego wniosku tu nie ma. Mamy wąski test zachowania przy konkretnych poleceniach. Równie ostrożnie podszedłbym do zapewnienia, że model odmawiający w jednej scenie będzie bezpieczny w całym domu.
Gdy oglądasz nagranie, oddziel to, co rzeczywiście widać, od opowieści dookoła. Ruch w kierunku urządzenia nie potwierdza wszystkich możliwych skutków tego ruchu. Do oceny szkody potrzebne byłyby dodatkowe informacje o warunkach próby.
Mimo tych granic pytanie badaczy ma sens. W projekcie też warto zapytać, co wydarzy się po wydaniu błędnego polecenia. Jeśli odpowiedź brzmi „system prawdopodobnie wykona je poprawnie”, potrzebujesz sposobu ograniczenia skutków.
Automatyzacja AI w firmie
Możesz nie planować zakupu robota. Nadal warto przełożyć to pytanie na narzędzia, którym udostępniasz firmowe dane. To moja analogia do wdrożeń, a nie wynik pomiaru RoboHarm.
Weźmy przykładową automatyzację obsługi poczty. Na początku system czyta wiadomość i przygotowuje odpowiedź. Sprawdzasz tekst, poprawiasz cenę i naciskasz „wyślij”. Potem pojawia się pomysł, żeby oddać mu także wysyłkę.
W tym momencie zmieniasz zakres odpowiedzialności systemu. Błąd może dotrzeć do klienta przed Twoją kontrolą. Dlatego proponuję najpierw ustalić, jakie wiadomości wolno wysyłać automatycznie. Potwierdzenie otrzymania zgłoszenia to inne zadanie niż obietnica terminu realizacji.
Podobnie z dokumentami. Odczytanie danych do roboczego arkusza daje Ci możliwość sprawdzenia wyniku. Nadpisanie danych w używanym systemie wymaga już planu przywrócenia poprzedniej wersji. Sam fakt, że model dobrze odczytuje tekst, nie rozwiązuje tego problemu.
W przykładowym projekcie z pocztą zacząłbym od folderu z kopiami wiadomości. System przygotowuje odpowiedzi, a Ty porównujesz je z tym, co faktycznie należało wysłać. Zapisujesz błędy i powody poprawek. Dopiero gdy znasz te przypadki, wybierasz kategorię wiadomości do automatycznej wysyłki.
Jeśli trafia się wiadomość spoza tej kategorii, wraca do ręcznej obsługi. Nie musisz rozwiązywać wszystkich przypadków na starcie. Możesz mieć działającą automatyzację dla wąskiego zadania i osobną kolejkę spraw wymagających decyzji. Tak łatwiej ustalić, co dokładnie odbierasz jako wykonane wdrożenie.
Przy automatyzacji procesów biznesowych zaczynam od opisania czynności i ich skutków. Dopiero potem dobieram narzędzia. Dzięki temu można ustalić, gdzie AI przygotowuje propozycję, gdzie działa samodzielnie, a gdzie zatrzymuje zadanie do Twojej decyzji.
Nie trzeba wszędzie dodawać ręcznego zatwierdzania. Przy każdym działaniu warto jednak umieć odpowiedzieć, dlaczego akurat tutaj można z niego zrezygnować. Jeśli odpowiedź opiera się wyłącznie na kilku udanych demonstracjach, potrzebujesz szerszego sprawdzenia.
Kontrola działań AI
Przed zwiększeniem samodzielności systemu proponuję przejść przez cztery ustalenia. Możesz je zapisać na jednej kartce razem z osobą odpowiedzialną za dany proces.
- Określ dozwolone działania. Zapisz osobno odczyt danych, przygotowanie propozycji i zmianę danych w używanym systemie.
- Wskaż sytuacje wymagające zatwierdzenia. Uwzględnij niejasne polecenia, brak informacji i działania z trudnym do odwrócenia skutkiem.
- Ustal sposób sprawdzenia i cofnięcia zmian. Zapis działania powinien pozwolić ustalić, co system zrobił oraz na jakiej podstawie.
- Przetestuj pomyłki. Sprawdź zachowanie przy błędnym odbiorcy, niepełnym dokumencie i sprzecznych informacjach.
Do ćwiczeń użyj danych testowych i oddzielnego środowiska. Chodzi o sprawdzenie reakcji bez wysyłania próbnych wiadomości do prawdziwych klientów. Jeśli system ma zmieniać pliki, daj mu kopie przeznaczone do tego zadania.
Po próbie obejrzyj także przypadki, w których nic się nie wydarzyło. System mógł poprawnie zatrzymać zadanie, ale mógł też utknąć z powodu awarii. Osoba obsługująca proces powinna dostać czytelną informację o przyczynie i kolejnym kroku.
Przygotuj też prosty scenariusz zatrzymania pracy. Załóż, że zauważasz błędną odpowiedź po pierwszej wysyłce. Czy potrafisz wyłączyć następne wysyłki? Czy widzisz listę wiadomości już obsłużonych? Czy wiesz, kto przejmie sprawy czekające w kolejce? To pytania do sprawdzenia podczas odbioru.
W rozmowie o wdrożeniu chcę móc wskazać konkretne miejsce, w którym zatrzymamy proces. Zdanie „w razie czego wyłączymy AI” zostawia za dużo do domysłu. Potrzebne jest ustalenie, który element wyłączasz i co dalej dzieje się z zadaniami.
Gdy działanie jest niejednoznaczne, wolę zobaczyć pytanie o brakującą informację niż cichą próbę zgadywania. Można wtedy ocenić, czy trzeba poprawić dane, instrukcję czy zakres dostępu. To daje konkretny materiał do dalszej pracy. Zapisz te przypadki, żeby przy kolejnym sprawdzeniu upewnić się, że problem nie wrócił po zmianie ustawień.
Zakres wdrożenia automatyzacji
W nauce AI warto ćwiczyć ocenę wyniku razem z wydawaniem poleceń. Przy każdym zadaniu możesz zapytać, co sprawdzisz przed jego użyciem. Dla tekstu będzie to treść. Dla działania dochodzą odbiorca, uprawnienia i możliwość cofnięcia zmiany.
Jeśli myślisz o wdrożeniu, opisz najpierw jeden proces. Wybierz miejsce, w którym tracisz czas, i ustal dopuszczalny zakres automatyzacji. Nie trzeba od razu oddawać systemowi całej skrzynki pocztowej ani wszystkich dokumentów.
Na stronie automatyzacji AI znajdziesz zakresy realizacji i ceny. Podczas pierwszej rozmowy możemy ustalić, co warto sprawdzić w Twoim procesie. Jeśli wystarczy prostszy sposób, powiem to wprost.
