在人工智能大肆襲來之時，人們可能更期待它將對我們的生活帶來哪些幫助的美好愿景。可你想象過當機器人擁有足夠的自信時，會阻止人類給它斷電嗎？這一敏感而又驚悚的問題在New Scientist 網站上的一篇名為“Robots will be more useful if they are made to lack confidence”的文章中被挑了出來。 伯里克團隊為了探索計算機的“自信”，設計了一個人與機器之間相互作用的數學模型，稱之為“開關游戲”。 在這個理論游戲中，人們給予一個有著開關按鈕的機器人一定的任務。而一個人可以隨意愿自由的按下機器人的關閉按鈕，但是機器人可以選擇禁用其開關，使這個人無法關閉。 就像我們看到會聊天的服務機器人，它們為什么會有一個屬于自己的語境，比如金融類、導診類、酒店服務類等等，都是基于技術人員提前輸入好算法，并且可以針對用戶需求來輸入不同領域的語言信息，因此才有了屬于它自己的語境。 然而， Hadfield-Menell 并不認為我們應該讓自動操作系統沒有安全保障。例如，如果一個自動駕駛的汽車正載著一個孩子去學校，那么這輛汽車永遠也不應該讓孩子去控制它。因此又回到了那個問題：人類智能和人工智能的邊界在哪里？ 無論是“機器人收稅論”還是“人工智能邊界論”，當處于機器人發展初期 ，機器人帶給人們生活方式的改變讓我們欣喜，不過當進入人工智能深度學習，真正培養起了機器人具有選擇能力的時候這個開關還會真正掌握在人類手中嗎？