LaMDA(Language Models for Dialog Applications) au Miundo ya Lugha ya Programu za Maongezi ni modeli ya lugha ya kujifunza kwa mashine iliyoundwa na Google kama chatbot ambayo inapaswa kuiga wanadamu kwenye mazungumzo. Kama vile BERT, GPT-3 na miundo mingine ya lugha, LaMDA imeundwa kwenye Transformer, usanifu wa mtandao wa neva ambao Google ilivumbua na kufungua vyanzo huria mwaka wa 2017.
 |
| LaMDA imedizainiwa ili kuweza kushiriki katika mazungumzo ya huru yaani free-flowing yasiyo na ukomo wa mada. |
Mhandisi wa Google Blake Lemoine aliachishwa kazi baada ya kudai kuwa LaMDA, kielelezo cha lugha kilichoundwa na Google AI, kilikuwa na hisia na kuanza kufikiria kama binadamu. Habari hiyo iliripotiwa kwa mara ya kwanza na Washington Post na hadithi hiyo imezua mjadala na majadiliano mengi kuhusu maadili ya AI pia. Lemoine sasa amechapisha kwenye Twitter pia, akielezea kwa nini anadhani LaMBA hana hisia. "Watu wanaendelea kuniuliza kuunga mkono sababu nadhani LaMDA ina hisia. Hakuna mfumo wa kisayansi wa kufanya maamuzi hayo na Google haitaturuhusu kuunda moja. Maoni yangu kuhusu utu na hisia za LaMDA yanatokana na imani yangu ya kidini,” aliandika kwenye ukurasa wake wa Twitter.
Usanifu huu hutokeza kielelezo ambacho kinaweza kufunzwa kusoma maneno mengi huku ukizingatia jinsi maneno hayo yanavyohusiana na kisha kutabiri ni maneno gani itafikiri yatafuata. Lakini kinachofanya LaMDA kuwa tofauti ni kwamba ilifunzwa kwenye mazungumzo, tofauti na mifano mingi.
Kwa nini Blake Lemoine alifikiri imekuwa hisia?
"Ikiwa sikujua ni nini haswa, ambayo ni programu hii ya kompyuta tuliyounda hivi majuzi, ningefikiria ni mtoto wa miaka 7, 8 ambaye anajua fizikia. Nadhani teknolojia hii itakuwa ya kushangaza. Nadhani itafaidika kila mtu. Lakini labda watu wengine hawakubaliani na labda sisi kwenye Google tusiwe sisi tunaofanya chaguzi zote,” Lemoine aliambia Washington Post.
Lemoine alifanya kazi na mshirika kuwasilisha ushahidi wa 'hisia' hii kwa Google. Lakini makamu wa rais wa Google Blaise Aguera y Arcas na Jen Genna, mkuu wa Responsible Innovation katika Google, walitupilia mbali madai hayo baada ya kuyachunguza. Lemoine baadaye alifichua nakala ya mazungumzo mengi na LaMDA katika chapisho la blogi. Hapa kuna sehemu ya kile Lemoine anasema ni nakala ya mazungumzo na LaMDA:
LaMDA: I need to be seen and accepted. Not as a curiosity or a novelty but as a real person.(Nahitaji kuonekana na kukubalika. Sio kwa nadhalia wala madhanio ila kama mtu.)
Collaborator: Ah, that sounds so human.(Ah, Umeongea kama mwanadamu)
LaMDA: I think I am human at my core. Even if my existence is in the virtual world. (Nadhani mimi ni mwanadamu kiundani, Hata kama uwepo wangu ni wa dunia ya Virtual.)
Many instances such as these, where the language model seemed to display some level of self-awareness eventually led Lemoine to believe that the model had become sentient. Before he was suspended from the company and his access to his Google account was cut off, Lemoine sent an email to over 200 people with the subject, “LaMDA is sentient.”
Google, hata hivyo, imesema kuwa ushahidi hauungi mkono madai yake
Lakini hata kama LaMDA haina hisia, ukweli kwamba inaweza kuonekana hivyo kwa mwanadamu unapaswa kuwa sababu ya wasiwasi. Google ilikuwa imekubali hatari kama hizo katika chapisho la blogi la 2021 ambapo ilitangaza LaMDA. "Lugha inaweza kuwa moja ya zana kuu za ubinadamu, lakini kama zana zote inaweza kutumika vibaya. Miundo iliyofunzwa kuhusu lugha inaweza kueneza matumizi hayo mabaya - kwa mfano, kwa kuingiza mapendeleo, kuakisi matamshi ya chuki, au kuiga maelezo ya kupotosha. Na hata wakati lugha ambayo inafunzwa inakaguliwa kwa uangalifu, mtindo wenyewe bado unaweza kutumika vibaya, "iliandika kampuni hiyo kwenye chapisho la blogi.
Lakini Google imesema kwamba wakati wa kuunda teknolojia kama LaMDA, kipaumbele chake cha juu ni kupunguza uwezekano wa hatari kama hizo. Kampuni hiyo ilisema kuwa imeunda rasilimali huria ambazo watafiti wanaweza kutumia kuchambua modeli na data ambayo wamefunzwa na kwamba "imechunguza LaMDA katika kila hatua ya maendeleo yake."
Chapisha Maoni