9 月, 2024 - AI 資訊

英國競爭與市場管理局（CMA）決定終止對亞馬遜與 Anthropic 的調查，主要原因是 AI 工具製造商本地營收不足。調查發現亞馬遜與 Anthropic 的合作並未達到佔英國市場份額 25% 或 7000 萬英鎊（9300 萬美元）的標準，故 CMA 不認為此為「合併情況」。在之前也有類似裁定，如風險投資等，並無法觸及足夠重要的程度。

via The Register

September 30, 2024 at 07:06PM

2024-09-30

蘋果公司不再與 ChatGPT 製造商 OpenAI 進行投資談判

https://www.macrumors.com/2024/09/30/apple-no-longer-investing-openai-chatgpt/

蘋果公司退出與 ChatGPT 製造商 OpenAI 的投資談判。蘋果原先預計參與 OpenAI 約 65 億美元的融資，但最近因不明原因退出談判。儘管如此，微軟已經投入 130 億美元，專案仍有待結束。蘋果此舉可能與 OpenAI 內部爭端、以及其轉型為營利組織有關。預計 ChatGPT 將在蘋果平台上實現整合，並於今年底前提供免費使用，付費功能則需付費訂閱。

via MacRumors

September 30, 2024 at 06:58PM

2024-09-30

回答有關古老宗教的現代問題的聊天機器人 The chatbot answering modern-day questions about an ancient religion

https://restofworld.org/2024/divinity-ai-jaingpt/

JainGPT 是一個於 2023 年推出的聊天機器人，專為耆那教信徒和非信徒而設，以了解耆那教。它回答各種問題，從「什麼是耆那教？」到「什麼導致業障附著於靈魂？」和「我們死後會發生什麼？」。耆那教的核心信仰為非暴力，即 ahimsa，是從輪回中解脫的途徑。自 2023 年推出以來，JainGPT 已有 22,000 名使用者，絕大多數年齡介於 14 至 35 歲之間。 Visaria 的目標是讓耆那教文獻在全球範圍內可取得，並且在年輕一代和大學學者中促進耆那教文獻研究。

via Rest of World – Latest Stories

September 30, 2024 at 06:12PM

2024-09-30

開放 GI 與經紀人簽訂協議以提供人工智能聊天機器人 Open GI strikes deal to provide brokers with gen AI chatbots

https://www.insuranceage.co.uk/technology/7955494/open-gi-strikes-deal-to-provide-brokers-with-gen-ai-chatbots

Open GI 與人工智慧專家 OpenDialog 合作，為其客戶提供先進的對話式人工智慧代理，旨在通過自動化客戶服務互動，為經紀人創造效率提升。此合作讓 Open GI 的經紀人能使用生成式人工智慧創建面向客戶的聊天機器人解決方案，為客戶提供更具對話性的體驗。有望 AI 代理將為經紀人節省金錢和時間，並讓人類代理人有更多時間處理複雜問題，同時為簡單情景優化流程。

via Insurance Age

September 30, 2024 at 05:19PM

2024-09-30

聊天機器人 ChatGPT 之母突然走人、蘋果傳退出投資 OpenAI 將迎來大轉型？

https://news.cnyes.com/news/id/5727355

OpenAI 近日遭遇多事，蘋果退出投資，技術長 Mira Murati 宣布離職。公司高層其它 11 人也相繼走人。OpenAI 面臨資金壓力且進行組織轉型，面臨管理困難。參與員工對行動和未來發展感到擔憂，顯示內部問題。公司收入增長迅速，但預計仍將虧損。

via Anue鉅亨

September 30, 2024 at 02:36PM

2024-09-30

應用程式介面 (APIs) 會是人工智慧的毀滅嗎? Could APIs be the undoing of AI?

https://www.helpnetsecurity.com/2024/09/30/llm-issues/

API 的問題可能會成為人工智慧（AI）的傢伙。

應用程式介面（API）是生成式人工智慧（GenAI）與代理人（例如，要求數據）功能所必需的。然而，API 和 LLM 問題的結合，再加上快速的推出，可能導致許多組織必須對抗安全漏洞。GenAI 容易受到與 API 相關的安全問題的影響，例如認證、授權和數據曝露，此外還有一些已被 OWASP 項目在其十大對 LLM 應用和生成式 AI 的威脅中詳細記錄的 AI 特定關注點。

攻擊了如何對準 AI 和 API

OWASP 清單中的第一名是指令注入（LLM01），這種攻擊可以透過系統提示或經由 LLM 諮詢的外部來源進行間接來實施。

指令注入可以用來欺騙 LLM 刪除其他用戶帳戶或透過後端 API 請求信息時，將輸出處理不當（LLM02）感到信任。因此，需要實施諸如輸入驗證、輸出保護和內容篩選的控制來解決這些問題。

另一個與 API 相關的關鍵問題是模型阻斷服務（LLM04），這種攻擊可迫使業務將資源用於回應請求，進而導致用戶服務質量下降。這些攻擊也可以利用 API 的限制來改變速率限制，從而導致 API 被請求淹沒。有很多方法來對抗這種威脅。

當然，GenAI 的一個主要擔憂是其可能洩露敏感信息，許多專有供應商都強調在商業環境中部署這項技術之前要關閉存取權限。對 API 被入侵所導致的問題是其中一個關鍵問題。

最後，對 LLM 的頂級十大問題中的一個是模型盜竊（LLM10），這涉及整個專有模型和所擁有的敏感智慧財產的侵害。

防禦攻擊

為了解決這些問題，LLM 提供者正在進行紅隊測試以發現並教導 LLM 如何防禦 OWASP 項目十大中識別的攻擊類型。

然而，不僅僅是對付意圖取得所需數據的攻擊是值得擔憂的，基礎設施本身也是一個主要的目標。這明顯是一個吸引人的目標，因為 LLM 可以進行敏感數據的訪問和處理。處於我們盛會，具體描述了對 LLM10（模型盜竊）的最近警告。

希望這個摘要能對你有幫助。

via News Archives – Help Net Security

September 30, 2024 at 01:01PM

2024-09-30

提示工程正在美國小型企業中備受需求

https://www.digitalinformationworld.com/2024/09/prompt-engineering-is-in-demand-for.html

美國小型企業需求即時工程師

隨著科技不斷演進，市場需要不斷出現新技能。即時工程也是眾多技能之一。即時工程是指必須以不同方式創建提示，以供 AI 系統使用，協助企業。調查顯示，27%的小型企業表示即時工程對他們非常重要。大型企業則比例高達 54%。

53%的小型企業表示即時工程將成為重要技能，但 25%認為隨著 AI 發展，其重要性會降低。相較之下，大型企業每日使用即時工程的機會更高，是小型企業的 2.4 倍。四分之一的企業老闆表示他們從未使用即時工程。

對於曾使用即時工程的小型企業，Adobe 的調查詢問了他們即時工程對小型企業的優勢。46%表示即時工程提高了效率，35%表示提高了 AI 輸出質量，33%表示減少了手動操作的需求。透過正確使用 AI 技術提供競爭優勢（23%）和提供個性化客戶體驗（19%）也是即時工程的優勢之一。

然而，即時工程也面臨一些挑戰，其中包括 44%表示需要持續學習和技能更新、33%對其長期使用感到不確定、24%認為它耗時且成本高。此外，整合現有系統（23%）和找到具備即時工程技能的人才（22%）也是小型企業面臨的挑戰。

許多小型企業正在尋找具備即時工程技能的才華洋溢的工程師，38%考慮向現有員工提供即時工程培訓。另外，48%的小型企業已經自學即時工程。在美國尋找即時工程師需求最多的州是加州，以聖荷西（$170,396）和舊金山（$150,814）為首。其次是紐約和華盛頓州。拉斯維加斯和傑克遜維爾是即時工程師薪資最低的城市。

接下來閱讀: 研究顯示許多高級 AI 聊天機器人寧願給出錯誤答案，也不願承認自己不知道答案。

via Digital Information World

September 30, 2024 at 06:37AM

2024-09-30

利用人工智能驅動的聊天機器人和自動化建立更智慧的網站

https://techbullion.com/building-smarter-websites-with-ai-powered-chatbots-automation/

AI 智能聊天機器人及自動化對網站開發產生巨大影響。這些技術協助企業建立更智能、更具反應性的網站。與 ThoughtLabs 等開發公司合作，不僅能更有效地為客戶服務，還能降低運營成本。這篇文章探討如何實施 AI 智能聊天機器人及自動化，並提供了相關實施最佳實踐與工具平台。

via TechBullion

September 30, 2024 at 12:35AM