✉️OpenAI內部信: 威脅人類的強大技術

OpenAI執行長Sam Altman被解僱前的幾天，有幾名研究員向董事會寫了一封內部信函，警告他們發現了一項可能威脅人類的強大人工智慧技術

這封信函是導致Altman被解僱的一系列不滿之一，其中包括對OpenAI商業化進展的擔憂

OpenAI在一封內部資訊中承認了一個名為Q*（發音為Q-Star）的專案而 Q*可能是OpenAI尋求的人工通用智慧（AGI / Artificial General Intelligence）的突破之一

AGI被定義為在大多數具有經濟價值的任務上超過人類的自主系統, 借助龐大的計算資源，Q*能夠解決某些數學問題，儘管暫時只能執行小學程度的數學計算，但研究人員對其未來的成功非常樂觀

研究人員認為數學是生成式人工智能發展的前沿, 而目前生成式人工智慧在寫作和語言翻譯方面表現出色，但對於同一個問題可能會得到不同的答案

然而，征服數學意味著人工智能具備更強及類似人類智慧的推理能力，, 研究人員相信，AGI 可以應用於新穎的科學研究

信函中提到了人工智能的強大能力和潛在危險，但沒有具體說明安全問題

長期以來，電腦科學家一直在討論高度智慧機器可能帶來的危險，例如它們是否可能認為摧毀人類而取得符合它們的利益

OpenAI的發展受到了Altman的領導，ChatGPT成為史上成長最快的軟體應用之一，並得到了微軟 (Micosoft) 的支持, 無擬對行業及組織都作出了重大的貢獻

但當人工智能繼續發展, 像一些電影曾經形容AI機械人真的有可能會擁有自主思想, 會為了自身的利益而對人類作出威脅, 這絕對有機會發生

所以在”走火入魔”前, 行內必須要有所準備, 預先防治被AI操控的情況發生