Reply to
: 我既意思係話,佢指果堆AI問題,本來就是人世間出現的問題。
— Fong Yun (@fongyun) October 11, 2018
指價值植入問題? 因為用語言思考嘛,有根本上的模糊性,於是就等於有人類都有的溝通問題
如果話有一種非語言格式(唔知數學定咩,或者係42)可以完美價值植入,咁都會涉及我地點translate過去,當中又可能有缺漏
所以反過黎講,Turing話AI識對答得人分唔出就係成功,其實係一個高度難題,因為語言睇黎就係無辦法完全精確
我想到的不是「語言的模糊性」,而是那種對目標不顧一切達成不理初衷的本質。
佢假設超智慧會忠實完成初衷才對,只係定義係做乜好難。 "令人類幸福"==>"改造人腦只感到幸福廻路"
我的問題是,其實人類對於「完成任務」的做法,跟他假設中超智慧的做法,又會差得幾遠﹖
呢放面佢地其實無得估,只作想像得到最壞假設來做安全考慮