6月14日下午消息，今日舉辦的2024智源大會上，百川智能CEO王小川、智譜AI CEO張鵬、月之暗面CEO楊植麟、面壁智能聯合創始人、CEO李大海共同出席《尖峰對話：通往AGI之路》環節。

對于AI安全問題，百川智能CEO王小川表示，安全有不同的內涵和外延，他將其分為三層安全：

第一是意識形態安全，做to c公眾服務，要跟國家發展、國家意志保持一致，這是大家的一個基本功；

第二是比較遠的安全，模型是不是把人類毀滅了，以后人就沒了，然后機器掌握世界了，其實內心來想不希望發生的，就像核彈一樣的把人類文明給搞沒了。但是至于這個模型它是否比人更聰明，能夠取代人做事情，這是個鼓勵的一件事情。這個技術能夠跟我們一塊去拓展人類文明，這件事情是有意義的。

第三是現實安全，現在的AI能力還很弱，就不要想什么顛覆人類這么復雜的事，現實中在近期還不存在安全的問題。