X propagovalo falešnou zprávu vygenerovanou pomocí AI

Společnost Elona Muska xAI vydala svého chatbota Grok-1 pod svobodnou licencí Apache 2.0. Kódy v Pythonu jsou dostání na GitHubu, ale samotný 300 GB model je nutné stáhnout přes torrent.

Pokud si chcete chatbota vyzkoušet, je k dispozici pro všechny předplatitele na platformě X, kde se již stačil proslavit. V sekci Prozkoumat propagoval šokující titulek: „Írán zaútočil na Tel Aviv těžkými raketami.“

Pokud by to byla pravda, jistě by takovou zprávu odvysílala všechna světová média. Ostatně začátkem týdne provedl Izrael nálet na íránské velvyslanectví v Sýri a zabil dva velitele. Dala se tak očekávat odveta.

Ve skutečnosti se ale nic takového nestalo. Falešný titulek vygeneroval chatbot a následně jej bez korekce propagovalo samotné X.

V sekci Prozkoumat se však začaly vyskytovat i další skvosty. Jak upozornil server Lifehacker, zdá se, že Grok shromažďuje top příspěvky a z těchto příspěvků vygeneruje souhrn zprávy. Po zemětřesení, které otřáslo velkou částí New Yorku, chatbot vytvořil titulek: „Adams vs. Zemětřesení: 50 000 policistů změří síly v metru.“ Zprávu pak doplňuje rádoby vtipným vyjádřením, že starosta New Yorku Eric Adams nasazuje newyorskou policii, aby zabránila dalším zemětřesením a každý policista má na to „zatracené zemětřesení střílet dřív, než udeří znovu.“

Dříve byla na Twitteru funkce, která přidávala kontext pro trendující témata. Za ní však stáli skuteční lidé. Krátce po koupi společnosti v říjnu 2022 však psaný kontext zmizel a Musk propustil celý kurátorský tým.