回應

1. 我既意思係話，佢指果堆AI問題，本來就是人世間出現的問題。

2. 指價值植入問題? 因為用語言思考嘛，有根本上的模糊性，於是就等於有人類都有的溝通問題
   如果話有一種非語言格式(唔知數學定咩,或者係42)可以完美價值植入，咁都會涉及我地點translate過去，當中又可能有缺漏… jacky.seezone.net/2018/10/11/131…

3. 我想到的不是「語言的模糊性」，而是那種對目標不顧一切達成不理初衷的本質。

4. 佢假設超智慧會忠實完成初衷才對,只係定義係做乜好難。 "令人類幸福"==>"改造人腦只感到幸福廻路"

5. 我的問題是，其實人類對於「完成任務」的做法，跟他假設中超智慧的做法，又會差得幾遠﹖

6. 呢放面佢地其實無得估，只作想像得到最壞假設來做安全考慮