Reply to :
我想到的不是「語言的模糊性」，而是那種對目標不顧一切達成不理初衷的本質。
— Fong Yun (@fongyun) October 12, 2018
佢假設超智慧會忠實完成初衷才對,只係定義係做乜好難。
“令人類幸福”==>”改造人腦只感到幸福廻路”
流水帳 流水帳 流水帳 流水帳 流水帳 流水帳 我想到的不是「語言的模糊性」，而是那種對目標不顧一切達成不理初衷的本質。
— Fong Yun (@fongyun) October 12, 2018
佢假設超智慧會忠實完成初衷才對,只係定義係做乜好難。
“令人類幸福”==>”改造人腦只感到幸福廻路”
我的問題是，其實人類對於「完成任務」的做法，跟他假設中超智慧的做法，又會差得幾遠﹖
呢放面佢地其實無得估，只作想像得到最壞假設來做安全考慮