Nilalaman
Inilahad ni: AltaML
T:
Bakit ang ilang mga kumpanya ay nagmumuni-muni ng pagdaragdag ng "mga kontrol ng feedback ng tao" sa mga modernong AI system?
A:
Ang ilang mga kumpanya na nagtatrabaho sa teknolohiyang cutting-edge AI ay nagtatrabaho upang i-institute ang mga kontrol ng tao para sa mga sistemang ito, na nagbibigay ng pag-aaral ng machine at malalim na mga tool sa pagkatuto ng ilang direktang pangangasiwa ng tao. Ang mga kumpanyang ito ay hindi maliit na mga manlalaro, alinman - ang DeepMind ng Google at ang Elon Musk's OpenAI ay dalawang halimbawa ng mga pangunahing kumpanya na nakakuha ng hands-on tungkol sa pagsulong ng artipisyal. Sa pag-iisip nito, ang mga resulta ay naiiba - halimbawa, ang DeepMind ay naging paksa ng kontrobersya para sa hindi sinasadya nitong pagnanais na magbigay ng pangunahing data sa publiko, habang ang OpenAI ay higit pa, mabuti, bukas tungkol sa gawain nito sa pagkontrol ng artipisyal na katalinuhan.
Kahit na ang mga kapansin-pansin na talento na tulad ni Bill Gates ay nakatimbang sa isyu, sinabi ni Gates na siya ay isa sa maraming nag-aalala tungkol sa paglitaw ng isang artipisyal na superintelligence na maaaring sa ilang mga paraan ay lumipat sa kawalan ng kontrol ng tao. Ang Musk, para sa kanyang bahagi, ay naglabas din ng ilang nakababahala na wika tungkol sa posibilidad ng "rogue AI."
Iyon marahil ang pinaka-kagyat na kadahilanan na ang mga kumpanya ay nagtatrabaho upang mag-aplay ng mga kontrol ng tao sa AI - ang ideya na ang ilang teknolohikal na pagkakapareho ay magreresulta sa isang napakalakas na teknolohiya ng sentient na hindi na makontrol ng mga tao. Mula pa noong madaling araw ng mga ambisyon ng tao, inilalagay namin ang mga tool upang matiyak na makontrol natin ang mga lakas na ating kinukuha - kung kabayo ito ng mga reins at harnesses, koryente sa mga insulated wires, o anumang iba pang uri ng mekanismo ng kontrol, pagkakaroon ang kontrol ay isang panandaliang pag-andar ng tao at sa gayon ginagawa nito ang lahat ng kahulugan sa mundo na bilang artipisyal na katalinuhan ay malapit sa totoong pag-andar, inilalapat ng mga tao ang kanilang sariling direktang kontrol upang mapanatili ang tungkulin na iyon.
Gayunpaman, ang takot sa mga super-intelligent na mga robot ay hindi lamang ang dahilan na ang mga kumpanya ay nag-aaplay ng mga kontrol ng tao sa pag-aaral ng makina at mga proyekto ng AI. Ang isa pang pangunahing kadahilanan ay ang bias ng makina - ito ang ideya na ang mga artipisyal na sistema ng intelektwal ay madalas na limitado sa kung paano nila masuri ang data na pinag-uusapan - upang palakihin nila ang anumang bias na likas sa system. Karamihan sa mga propesyonal na nakikitungo sa pag-aaral ng makina ay maaaring magsabi ng mga kakila-kilabot na mga kwento tungkol sa mga sistema ng IT na hindi nagagamot sa mga grupo ng gumagamit ng tao - kung ito ay kasarian o pagkakaiba-iba ng lahi, o ilang iba pang kabiguan ng system na talagang maunawaan ang mga nuances ng aming mga sangkatauhan at kung paano tayo nakikipag-ugnay sa mga tao.
Sa isang kahulugan, maaari naming ilagay ang mga kontrol ng tao sa mga system dahil natatakot kami na baka sila ay masyadong malakas - o kahalili, dahil natatakot kami na baka hindi sila sapat na malakas. Tumutulong ang mga kontrol ng tao upang mai-target ang mga set ng data ng pagkatuto ng makina upang magbigay ng mas tumpak. Tumutulong sila upang palakasin ang mga ideya na ang computer ay simpleng hindi matututo sa sarili, alinman dahil ang modelo ay hindi sapat na sopistikado, dahil ang AI ay hindi masyadong advanced, o dahil ang ilang mga bagay ay namamalagi lamang sa lalawigan ng kognisyon ng tao. Ang artipisyal na katalinuhan ay mahusay para sa ilang mga bagay - halimbawa, isang sistemang gantimpala at puntos na batay sa gantimpala ay pinahihintulutan ng isang artipisyal na intelihensiya na talunin ang isang manlalaro sa napakalawak na komplikadong larong board na "Go" - ngunit para sa iba pang mga bagay, ang sistemang nakabatay sa insentibo ay ganap na hindi sapat.
Sa madaling sabi, maraming mga nakakaganyak na dahilan upang mapanatiling direktang kasangkot ang mga gumagamit ng tao sa kung paano gumagana ang mga artipisyal na intelektwal na proyekto. Kahit na ang pinakamahusay na mga teknolohiyang artipisyal na intelektwal ay maaaring gumawa ng maraming pag-iisip sa kanilang sarili - ngunit kung walang isang aktwal na utak ng tao na maaaring makapagproseso ng mga bagay tulad ng emosyon at panlipunang mores, hindi nila makita ang malaking larawan sa isang tao.
Isang bihasang kumpanya sa pag-aaral ng makina makakatulong sa welga ang balanse na ito sa isang halo ng mga eksperto sa negosyo at paksa at ang mga tagagawa ng pagkatuto ng makina na may mga kasanayan upang malutas ang mga problema sa negosyo.
