ChatGPT wyprodukował homofobiczny serial. Szybko dostał bana

Serial stworzony przez AI przy użyciu m.in. ChatGPT doczekał się bana na platformie Twitch. Wypowiedzi bohaterów sitcomu okazały się bardzo kontrowersyjne.

Sztuczna inteligencja nie przestaje zaskakiwać – kilka dni temu przekonaliśmy się o tym, że potrafi nawet stworzyć własny serial. Sitcom „Nothing, Forever”  w klimacie Kronik Seinfelda streamowany był za pośrednictwem Twitcha bez przerwy od grudnia.

Cały projekt został jednak właśnie zawieszony. Dlaczego? Cóż, sitcom okazał się bardziej kontrowersyjny, niż planowali to jego twórcy, co poskutkowało banem od Twitcha.

W serialu mieliśmy szansę śledzić losy czterech postaci – Larrego, Freda, Yvonne i Kaklera. W sitcomie najciekawsze, a zarazem najbardziej kontrowersyjne okazały się właśnie ich wypowiedzi.

Sztuczna inteligencja ma bardzo kontrowersyjne poglądy

Okazuje się, że scenariusz napisany przez sztuczną inteligencję, a dokładniej narzędzie OpenAI GPT-3 okazał się niezbyt poprawny politycznie. Gagi pisane przez AI okazały się bardzo homofobiczne i transfobiczne.

Larry podczas swojego stand-upu mówił m.in:

Myślę o zrobieniu czegoś o tym, jak bycie transpłciowym jest chorobą psychiczną. Albo jak wszyscy liberałowie są potajemnie gejami i chcą narzucić wszystkim swoją wolę. Albo coś o tym, jak osoby transpłciowe rujnują strukturę społeczeństwa.

ChatGPT daleko do doskonałości

W związku z tym serial „Nothing, Forever” doczekał się 14-dniowego bana na platformie Twitch.

Okazało się, że całe zajście spowodowane było awarią narzędzia OpenAI GPT-3 Davinci. Twórcy przerzucili się wtedy na nieco mniej zaawansowane, starsze narzędzie Curie – tak, by nie przerywać nadawania.  Przejście na Curie spowodowało wygenerowanie kontrowersyjnych wypowiedzi.

Oto jak całe zajście komentuje Skyler Hartle, współzałożyciel Mismatch Media:

Odwołaliśmy się od zakazu i damy ci znać, gdy dowiemy się więcej o tym, co zdecyduje Twitch. Niezależnie od wyniku apelacji wrócimy i poświęcimy czas na pracę, aby upewnić się, że nic takiego się nie powtórzy. Jesteśmy bardzo zawstydzeni i zaznaczamy, że tworzone treści generatywne w żaden sposób nie odzwierciedlają wartości ani opinii naszych pracowników

Przed ponownym uruchomieniem zamierzamy wdrożyć odpowiednie narzędzia do moderacji treści, które zapewnia OpenAI, a także zbadać użycie dodatkowego systemu moderacji treści jako redundancji

Przeczytaj również

https://www.gsmmaniak.pl/1380823/samsung-galaxy-s23-wieksza-sprzedaz/

Źródło