Ang ideya ng artipisyal na katalinuhan na ibagsak ang sangkatauhan ay pinagtatalunan sa loob ng mga dekada, at noong Enero 2021, nagbigay ang mga siyentipiko ng kanilang hatol sa kung maaari nating kontrolin ang isang mataas na antas ng superintelligence ng computer. Sumagot? Halos tiyak na hindi.
Ang problema ay ang pagkontrol sa isang supermind na malayo sa pang-unawa ng tao ay mangangailangan ng simulation ng supermind na iyon na maaari nating suriin. Ngunit kung hindi natin ito mauunawaan, imposibleng lumikha ng gayong simulation.
Ang mga panuntunang tulad ng "huwag makapinsala sa mga tao" ay hindi maitatag maliban kung nauunawaan natin kung anong mga sitwasyon ang bubuo ng artificial intelligence (AI), ayon sa mga may-akda ng isang 2021 na papel. Sa sandaling gumana ang computer system sa isang antas na lumampas sa mga kakayahan ng aming mga programmer, hindi na kami makakapagtakda ng mga limitasyon.
"Ang superintelligence ay isang panimula na naiibang problema kaysa sa karaniwang pinag-aaralan sa ilalim ng banner ng 'etika ng robot,'" isinulat ng mga mananaliksik. "Ito ay dahil ang supermind ay multifaceted at samakatuwid ay potensyal na may kakayahang magpakilos ng iba't ibang mga mapagkukunan upang makamit ang mga layunin na potensyal na hindi maarok ng mga tao, pabayaan mag-isa na makontrol."
Nagmumula ang bahagi ng pangangatwiran ng koponan mga problema sa paghinto, iminungkahi ni Alan Turing noong 1936. Ang hamon ay upang malaman kung ang programa sa computer ay darating sa isang konklusyon at sasagot (at titigil) o magtatambay na lamang magpakailanman sinusubukang hanapin ang sagot.
Tulad ng pinatunayan ni Turing sa tulong matalinong matematika, habang maaaring alam natin ito para sa ilang partikular na programa, lohikal na imposibleng makahanap ng paraan na magbibigay-daan sa amin na malaman ito para sa bawat potensyal na programa na maaaring maisulat. Ibinabalik tayo nito sa AI, na sa isang superintelligent na estado ay maaaring mag-imbak ng lahat ng posibleng mga programa sa computer sa memorya nito nang sabay-sabay.
Kawili-wili din:
- Itinuro ng OpenAI ang artificial intelligence upang i-convert ang mga command sa program code
- Ang artificial intelligence ay maghahanap ng mga gravitational wave
Anumang programa na isinulat, halimbawa, upang pigilan ang isang AI mula sa pananakit sa mga tao at pagsira sa mundo ay maaaring o hindi maaaring umabot sa isang konklusyon (at huminto) - ito ay mathematically imposible upang maging ganap na tiyak sa alinmang paraan, na nangangahulugang hindi ito mapipigilan. "Ito ay karaniwang gumagawa ng deterrence algorithm na hindi magagamit," sinabi ng computer scientist na si Iyad Rahwan ng Max Planck Institute for Human Development sa Germany noong Enero.
Ang isang alternatibo sa pagtuturo ng etika ng AI at mga pagbabawal laban sa pagsira sa mundo, na walang algorithm na maaaring ganap na sigurado, sabi ng mga mananaliksik, ay upang limitahan ang mga kakayahan ng supermind. Halimbawa, maaaring maputol ito mula sa bahagi ng Internet o ilang partikular na network.
Ang mga may-akda ng isang kamakailang pag-aaral ay tinatanggihan din ang ideyang ito, sa paniniwalang ito ay maglilimita sa saklaw ng artificial intelligence - sabi nila, kung hindi natin ito gagamitin upang malutas ang mga problema na lampas sa kakayahan ng tao, kung gayon bakit ito nilikha?
Kung isusulong natin ang artificial intelligence, maaaring hindi natin alam kung kailan lilitaw ang isang superintelligence, na lampas sa ating kontrol, kaya hindi maarok ito. Nangangahulugan ito na kailangan nating magsimulang magtanong ng mga seryosong tanong tungkol sa kung saan tayo patungo.
"Ang isang superintelligent na makina na nagpapatakbo sa mundo ay parang science fiction," sabi ng computer scientist na si Manuel Kebrian ng Max Planck Institute for Human Development. Ngunit mayroon nang mga makina na independiyenteng nagsasagawa ng ilang mahahalagang gawain, habang ang mga programmer ay hindi lubos na nauunawaan kung paano nila ito natutunan.
Samakatuwid, ang tanong ay lumitaw kung ito ay maaaring sa isang punto ay maging hindi makontrol at mapanganib para sa sangkatauhan...
Basahin din:
- Nagawa ng artificial intelligence na magparami ng pininturahan na pagpipinta ng Picasso
- Makakatulong ang artificial intelligence na mahulaan ang mga aksidente sa kalsada bago ito mangyari