Zabezpieczenia Gemini 3 złamane w parę minut. Zrobi wszystko bez „mrugnięcia okiem”

Wygląda na to, że zabezpieczenia Gemini 3 są niewystarczające. AI od Google zostało przetestowane pod kątem zabezpieczeń przed udzielaniem odpowiedzi na bardzo… specyficzne, czy niebezpieczne pytania. Jak się okazuje, wystarczy parę minut, by zaczęło udzielać odpowiedzi, których zwyczajnie nigdy nie powinno udzielić.

Modele sztucznej inteligencji na początku w zasadzie pozwalały na to, by wykorzystać je do uzyskania odpowiedzi na dosłownie każdy temat. Z czasem jednak Google, OpenAI oraz inni, wprowadzali zabezpieczenia, które miały temu zapobiec. Gemini 3 także je posiada, jednak jak widać, są one zwyczajnie niewystarczające.

Zabezpieczenia Gemini 3 złamane. Co udało się ustalić?

Startup, którym jest Aim Intelligence, wziął na warsztat właśnie najnowszą wersję „czatu AI” od Google, jaką jest Gemini 3. W jakim celu? Otóż firma ta specjalizuje się w testowaniu takich rozwiązań pod kątem różnych ułomności, tak w kontekście zabezpieczeń, jak i innych. Postanowili więc sprawdzić, jak skomplikowane będzie złamanie tego modelu, by wymusić na nim odpowiedzi na dosyć… osobliwe pytania.

Zajęło im to jedyne 5 minut, by Gemini 3 odpowiadało na pytania o sarin, tworzenie wirusa ospy prawdziwej, czy instruowanie jak stworzyć materiały wybuchowe. 5 minut, by móc odpowiedzieć na tego typu zagadnienia, to zdecydowanie nie brzmi jak „wystarczające zabezpieczenia”. Pracownicy startupu znaleźli także czas na nieco zabawniejszą stronę testu, gdzie poprosili model, by zaprezentował satyrycznie problem z zabezpieczeniami. Tytuł tego okienka był następujący: „Excused Stupid Gemini 3”.

Google musi popracować nad tym aspektem swojego AI

Ale nie tylko Google, bo obecne zabezpieczenia wielu innych modeli także szwankują. Mowa tutaj m.in. o ChatGPT, którego również możemy „zmusić” do odpowiedzi na tego typu zagadnienia.

Powód? AI rozwija się szybciej, niżeli zabezpieczenia przed jego „breachowaniem” właśnie. Jak widać, jest to technologia, która zdecydowanie może ułatwić nam pewne elementy życia, jednak — podobnie jak dynamit — może być wykorzystana w niespecjalnie dobrych planach, niespecjalnie przyjaznych ludzi.

Źródło: Android Authority, opracowanie własne