隨著人工智慧的不斷快速發展，圍繞這些改變世界的創新的開發和部署的倫理問題正成為人們更加關注的焦點。
在北美人工智慧與大數據博覽會之前接受採訪時，人工智慧公司Pryon的執行長兼創始人 Igor Jablokov 正面解決了這些緊迫的問題。
人工智慧的關鍵道德挑戰
當被問及最關鍵的道德挑戰時，雅布洛科夫表示：“沒有一個，也許有近 20 個。”他概述了一系列必須小心應對的潛在陷阱——從人工智慧的幻覺和謊言的排放，到資料隱私的侵犯和專有資訊培訓中的智慧財產權洩露。
雅布洛科夫表示，偏見和對抗性內容滲透到訓練資料中是另一個主要擔憂。嵌入式代理和即時注入攻擊等安全漏洞以及大型語言模型的極端能源消耗和氣候影響也在他的擔憂清單中名列前茅。
Pryon 的起源可以追溯到二十多年前現代人工智慧的最早興起。 Jablokov 之前在 IBM 領導過一個高階人工智慧團隊，他們設計了後來成為 Watson 的原始版本。 「他們沒有批准它。因此，在我的沮喪中，我離開了，成立了我們最後一家公司，」他回憶道。該公司當時也稱為 Pryon，後來成為亞馬遜第一家與人工智慧相關的收購公司，誕生了現在的 Alexa。
Pryon 目前的化身旨在透過專注於關鍵基礎設施和高風險用例的負責任設計來應對人工智慧的道德困境。 「[我們想要]為更關鍵的基礎設施、重要的工人和更嚴肅的追求創造一些特意強化的東西，」賈布洛科夫解釋道。
一個關鍵要素是為企業提供對其資料環境的靈活性和控制。 「我們為他們提供如何使用平台的選擇……從多租戶公有雲到私有雲，再到本地部署，」Jablokov 說。這使得組織可以在需要時將高度敏感的資料隔離在自己的防火牆後面。
Pryon 也強調可解釋的人工智慧和可驗證的知識來源歸屬。 「當我們的平台揭示答案時，你可以點擊它，它總是會轉到底層頁面並準確地突出顯示它從哪裡學到了一條訊息，」賈布洛科夫描述道。這使得人類能夠驗證知識的來源。
在能源、製造和醫療保健等領域，Pryon 在人工智慧生成的指導傳遞給第一線工人之前實施了人機互動監督。賈布洛科夫舉了一個例子，在資訊到達技術人員之前，「主管可以仔細檢查結果，並基本上給予批准徽章」。
確保負責任的人工智慧發展
賈布洛科夫強烈倡導新的監管框架，以確保負責任的人工智慧開發和部署。他在歡迎白宮最近發布的行政命令的同時，也表達了對產生人工智慧風險的擔憂，如幻覺、靜態訓練資料、資料外洩漏洞、缺乏存取控制、版權問題等。
Pryon 一直積極參與這些監管討論。 「我們正在向混亂的政府機構進行反向管道，」賈布洛科夫說。 “隨著監管環境的推出，我們正在積極貢獻我們對監管環境的看法……我們通過表達與生成人工智能使用相關的一些風險來表明這一點。”
關於不受控制的、存在的「人工智慧風險」的可能性——正如一些人工智慧領導者所警告的那樣——Jablokov 對Pryon 的治理方法採取了相對樂觀的語氣：「我們一直致力於可驗證的歸因…從企業自己的數據中提取資訊內容，以便他們了解解決方案的來源，然後他們決定是否用它做出決定。
這位執行長堅決地將 Pryon 的使命與新興的開放式對話人工智慧助理區分開來，其中一些助手引發了關於幻覺和缺乏道德約束的爭議。
“我們不是小丑學院。我們的產品旨在進入地球上一些更惡劣的環境，」賈布洛科夫直言不諱地說。 “我認為沒有人會覺得在急診室裡讓醫生在 ChatGPT、Bing、Bard 中輸入查詢感到舒服……”
他強調了主題專業知識和情緒智商在高風險的現實世界決策中的重要性。 「你需要一個擁有多年治療與你目前所患疾病類似的經驗的人。你猜怎麼著？你喜歡這樣一個事實：他們也關心讓你變得更好的情感品質。
在即將舉行的人工智慧和大數據博覽會上，Pryon 將推出新的企業用例，展示其跨能源、半導體、製藥和政府等行業的平台。 Jablokov 開玩笑說，除了端到端企業產品之外，他們還將揭示“使用 Pryon 平台的不同方式”，包括為開發人員提供潛在的較低級別的訪問權限。
隨著人工智慧的領域從狹窄的應用迅速擴展到更通用的功能，解決道德風險將變得更加重要。 Pryon 對治理、可驗證的知識來源、人類監督以及與監管機構的合作的持續關注可以為跨行業更負責任的人工智慧開發提供範本。
您可以在下面觀看我們對伊戈爾·雅布洛科夫 (Igor Jablokov) 的完整採訪：
想向產業領導者了解更多關於人工智慧和大數據的知識嗎？查看在阿姆斯特丹、加州和倫敦舉辦的人工智慧與大數據博覽會。該綜合活動與BlockX 、數位轉型週和網路安全與雲端博覽會等其他領先活動同期舉辦。
在此探索由 TechForge 提供支援的其他即將舉行的企業技術活動和網路研討會。
伊戈爾·雅布洛科夫 (Igor Jablokov) 的文章《Pryon：建構負責任的人工智慧未來》首先出現在《人工智慧新聞》上。
