人工智慧的發展固然期望帶給人類更高品質的生活，但實驗過程中是否反而可能犧牲某些人？以自動駕駛汽車實驗為例，如果突然有人闖到自動駕駛汽車前面，是要犧牲車子裡的駕駛員，還是車子前的行人？
「誰應該被犧牲？」這個疑問似無法找到一個眾所接受的答案。可以顯見的是，人工智慧的開發實驗不單為了提升人類生活，也促使學術界及產業界，在追求實驗成功的過程中，對於參與實驗者的權利做更多的考量。
世界各國皆已開始意識到人工智慧對於未來的影響，並思考實驗過程的倫理議題。例如英國牛津大學哲學系人類未來研究所、劍橋大學人文科學研究所設立的生存危機研究中心，皆是從哲學及倫理學角度來檢視先進科技可能帶來的風險；日本更於2014年在人工智慧學會設置倫理委員會，發表倫理規範做為人工智慧技術研究開發之依循原則。