Ayon sa isang magulang na nag-post ng mga screenshot ng kasaysayan ng aktibidad ni Alexa, ang Amazon voice assistant, kapag hiniling ng isang bata na mag-alok ng isang hamon, ay nagbigay ng isang halimbawa ng isang nakamamatay na eksperimento sa kuryente, na kinuha ang paglalarawan nito sa labas ng konteksto ng isang random na artikulo. Ang Echo column ay nag-usap tungkol sa isang eksperimento na sikat sa mga tagahanga ng TikTok sa paggamit ng isang barya at charger para sa isang smartphone - maraming mga insidente, pinsala at sunog pagkatapos ng pagpapatupad nito ay iniulat ng iba't ibang media nang higit sa isang beses. Tila, nakuha ng device ang ideya para sa hamon na ito mula sa isang artikulo na naglalarawan dito bilang mapanganib, na binabanggit ang isang ulat tungkol sa isang di-umano'y umiiral na hamon sa TikTok.
Ayon sa isang screenshot na kinunan ni Christine Livdahl, nang hilingin na "ipakita sa akin ang isang gawain," sumagot si Echo, "Narito ang isang bagay na nakita ko online." Ayon sa ourcommunitynow.com, ang gawain ay simple: "ipasok ang charger ng telepono halos kalahati sa labasan, pagkatapos ay pindutin ang mga hubad na pin na may isang sentimos."
Sa isang pahayag sa BBC, kinumpirma ng Amazon ang pag-uugali ni Alexa, na nagsasabing: "Sa sandaling nalaman namin ang error na ito, gumawa kami ng agarang aksyon upang ayusin ito." Nag-tweet si Livdahl kahapon na hindi na gumagana ang kahilingan sa hamon. Sinubukan din ng mga user sa Web ang kahilingan kay Alexa at nakakuha ng katulad na resulta.
OMFG My 10 year old just asked Alexa on our Echo for a challenge and this is what she said. pic.twitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) Disyembre 26, 2021
Ang Amazon ay hindi lamang ang kumpanya na nakaranas ng mga problema kapag sinusuri ang nilalaman ng web. Noong Oktubre, iniulat ng isang user na ang Google ay nagpapakita ng potensyal na mapanganib na payo sa isa sa mga snippet nito kung nag-type ka ng "nagkakaroon ka ng seizure, kung ano ang gagawin" sa Google - ang impormasyon ay kinuha mula sa isang seksyon ng web page na naglalarawan kung ano ang hindi gawin kung ang isang tao ay may seizure. Gayunpaman, ang mga user ay nag-ulat ng iba pang mga katulad na isyu, kabilang ang isang user na nag-ulat na ang Google ay nagbabalik ng mga resulta para sa orthostatic hypotension kapag naghahanap ng orthostatic hypertension, at ang isa pa ay nag-post ng screenshot ng Google na nagpapakita ng kakila-kilabot na payo para sa pag-aliw sa isang taong nagdadalamhati sa mga linya ng "Natutuwa ka ayos lang" o "Huwag kang malungkot! Cheer up!"
Ang buod ng paghahanap sa Google kumpara sa aktwal na pahina pic.twitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@soft) Oktubre 16, 2021
Nakakita na rin kami ng mga babala tungkol sa mapanganib na pag-uugali na sumulong upang palakihin ang problema kaysa dati — sa unang bahagi ng buwang ito, ang ilang mga distrito ng paaralan sa US ay inilagay sa lockdown pagkatapos ng mga ulat ng pagbabanta ng pamamaril sa TikTok. Ito ay lumabas na ang panlipunang bagyo ay pangunahing sanhi ng katotohanan na ang mga tao ay nag-uusap tungkol sa mga banta, higit pa kaysa sa mga banta na aktwal na umiiral. Sa kaso ni Alexa, pinili ng algorithm ang mapaglarawang bahagi ng babala at pinalaki ito nang wala ang orihinal na konteksto. Bagaman naroon ang mga magulang upang mamagitan kaagad, madaling isipin ang isang sitwasyon kung saan hindi ito ang kaso at ang mga kahihinatnan.
Nag-tweet si Livdahl na ginamit niya ang pagkakataon na "talakayin ang kaligtasan sa internet kasama ang kanyang anak at huwag magtiwala sa iyong nabasa nang walang pagsasaliksik at pag-verify," na iminumungkahi naming gawin mo rin.
Basahin din: