Nag-viral ang isang larawan ng isang "pagsabog" malapit sa Pentagon, na nabuo ng AI Twitter

Kamakailan sa Twitter lumitaw ang isang larawan, na, tulad ng sinabi sa paglalarawan, ay naglalarawan ng isang pagsabog na naganap malapit sa Pentagon. Dahil dito, nagkaroon pa nga ng panandaliang pagbagsak sa merkado - bumagsak ang index ng S&P 500 ng 0,29%, ngunit pagkatapos na lumabas na peke ang larawan, nabawi ang index. Ang imahe ay nai-post ng isang na-verify na Bloomberg Feed account, na, sa kabila ng asul na checkmark nito, ay hindi kaakibat sa kumpanya ng media ng Bloomberg.

Mabilis na nakilala ang larawan bilang peke. Ito ay tila nabuo sa tulong ng artificial intelligence. Ngunit bago lumabas ang mga detalyeng ito, nagkalat na ang disinformation ng iba't ibang account, kasama na ang scumbag Russia Today (well, sino ang magdududa).

Ang pekeng imahe ay nagpapakita ng malaking balahibo ng itim na usok sa tabi ng isang gusali na malabo na kahawig ng Pentagon, na may kasamang teksto. Sa mas malapit na inspeksyon, kinumpirma ng mga lokal na awtoridad na ang imahe ay hindi isang tumpak na representasyon ng Pentagon, at ang malabong mga poste sa bakod at mga haligi ng gusali ay mukhang isang medyo palpak na imahe na nilikha gamit ang isang modelo ng AI tulad ng Stable Diffusion.

Bloomberg fake account dati Twitter Na-block ito, may libu-libong tweet, ngunit wala pang 1 kabuuang tagasunod, at hindi malinaw kung sino ang nagpatakbo nito at kung ano ang mga motibasyon sa likod ng pagpapakalat ng pekeng imahe. Bilang karagdagan sa Bloomberg Feed, ang iba pang mga account na nagkakalat ng maling mensahe ay kinabibilangan ng Walter Bloomberg at Breaking Market News, na hindi rin kaakibat sa totoong kumpanya ng Bloomberg.

Itinampok ng insidente ang mga potensyal na banta na maaaring idulot ng AI-generated na mga larawan sa social media, kung saan ang hindi na-verify na impormasyon ay mabilis na ibinabahagi, at ang bayad na sistema ng pag-verify sa Twitter. Noong Marso, nag-viral ang mga pekeng larawan ng pag-aresto kay Donald Trump, na nilikha gamit ang Midjourney, at habang tinawag silang peke, napaka-realistiko ng mga ito. Gayundin, marami ang naligaw ng AI-generated na mga larawan ni Pope Francis sa isang puting down jacket.

Ang "BloombergFeed" account ay pinagbawalan na ngayon.

Ngunit ito ay magiging isang whack-a-mole game.

Mga pekeng imahe ng AI + na-verify na pekeng balita Twitter account + mainstream media hindi sinusuri ang kanilang maasimces = isang recipe para sa kalamidad sa ating digital society.

Hindi ito magpapabagal. pic.twitter.com/ZeboVgVm4Z

— Lorenzo Green 〰️ (@mrgreen) Mayo 23, 2023

Ang Papa sa isang down jacket ay isang bagay, ngunit isang pagsabog sa punong-tanggapan ng US Department of Defense ay medyo iba. Ang mga kahihinatnan ay maaaring maging seryoso, tulad ng pinatutunayan ng parehong stock market. Bumagsak ang Dow Jones Industrial Average ng 85 puntos sa loob ng apat na minuto matapos mag-viral ang tweet, ngunit mabilis na nakabawi.

Karamihan sa kalituhan sa paligid ng pekeng tweet ay naging posible sa pamamagitan ng mga pagbabago sa Twitter sa panahon ni Elon Musk. Pinaalis niya ang maraming moderator ng nilalaman at higit na na-automate ang proseso ng pag-verify ng account, inilipat ito sa isang system kung saan maaaring magbayad ang sinuman para sa isang asul na tseke. Sinasabi ng mga kritiko na ang pagsasanay ay ginagawang mas mahina ang platform sa maling impormasyon.

Bagama't medyo mabilis na nakilala ng mga awtoridad ang larawan ng pagsabog bilang isang pekeng, ang pagkakaroon ng mga modelo ng synthesis ng imahe tulad ng Midjourney at Stable Diffusion ay nangangahulugan na ang pagkumbinsi ng mga pekeng hindi na nangangailangan ng kasiningan, na nag-iiwan ng ilang puwang para sa disinformation. Ang kadalian ng paglikha ng mga pekeng pinagsama sa viral na katangian ng mga platform tulad ng Twitter, ay nangangahulugan na ang maling impormasyon ay maaaring kumalat nang mas mabilis kaysa sa maaari itong ma-verify.

Sa kasong ito, ang imahe ay hindi kinakailangang may mataas na kalidad upang lumikha ng negatibong epekto. Sinasabi ng mga eksperto na kapag may gustong paniwalaan ang mga tao, nawawala ang kanilang pagbabantay at hindi sinusuri ang katotohanan ng impormasyon.

Basahin din:

• Kinikilala ng AI ng wika ng Meta ang higit sa 4 mga wika
• Nagdagdag ang Adobe ng AI-powered Generative Fill na pag-edit sa Photoshop