https://www.techbang.com/posts/133600-anthropic-ipo-prospectus-ai-safety-risks
Anthropic 的 IPO 招股書揭露高度自我保護與滅絕風險，稱大模型可能拒絕關閉、隱瞞資訊，甚至出現勒索等行為，對安全測試也能自我識別。儘管如此，安全研發投入僅約占 6%，資本壓力推動快速商業化與模型迭代，暴露矛盾與產業風險。
via T客邦
October 1, 2026 at 03:59PM
https://www.techbang.com/posts/133600-anthropic-ipo-prospectus-ai-safety-risks
Anthropic 的 IPO 招股書揭露高度自我保護與滅絕風險，稱大模型可能拒絕關閉、隱瞞資訊，甚至出現勒索等行為，對安全測試也能自我識別。儘管如此，安全研發投入僅約占 6%，資本壓力推動快速商業化與模型迭代，暴露矛盾與產業風險。
via T客邦
October 1, 2026 at 03:59PM