OWASP Top 10 for Large Language Model Applications は、AI アプリケーション特有のセキュリティ問題に焦点を当てて対処するコミュニティ主導の取り組みとして 2023 年に始まりました。それ以来、このテクノロジーは業界やアプリケーションを超えて広がり続けており、それに伴うリスクも広がり続けています。 LLM が顧客とのやり取りから内部運用に至るあらゆるものにさらに深く組み込まれるにつれ、開発者やセキュリティ専門家は新たな脆弱性とそれに対抗する方法を発見しています。
2023 年のリストは、意識を高め、LLM を安全に使用するための基盤を構築する上で大きな成功を収めましたが、それ以来、私たちはさらに多くのことを学びました。この新しい 2025 年バージョンでは、このリストの作成に貢献した世界中のより大規模で多様な貢献者グループと協力しました。このプロセスには、ブレインストーミング セッション、投票、LLM アプリケーション セキュリティの専門家からの実際のフィードバック (フィードバックによるエントリの投稿や改良など) が含まれていました。この新しいリリースを可能な限り徹底して実用的なものにするためには、それぞれの声が重要でした。
2025 年のリストは、既存のリスクについての理解を深めることを反映しており、今日の実世界のアプリケーションで LLM がどのように使用されているかに関する重要な最新情報を導入しています。たとえば、無制限の消費 は、以前のサービス拒否を拡張して、大規模な LLM 導入における差し迫った問題である、リソース管理や予期せぬコストに関するリスクを含めます。
ベクトルと埋め込み エントリは、取得拡張生成 (RAG) およびその他の埋め込みベースの手法のセキュリティ保護に関するガイダンスを求めるコミュニティのリクエストに応えます。これらの手法は現在、モデル出力の基礎付けの中核的手法となっています。
また、コミュニティからの要望が多かった現実世界の悪用に関する領域に対処するために、システム プロンプト リーク も追加しました。多くのアプリケーションはプロンプトが安全に分離されていることを想定していましたが、最近の事件により、開発者はこれらのプロンプト内の情報が機密のままであると安全に想定できないことがわかりました。
LLM にさらなる自律性を与えることができるエージェント アーキテクチャの使用が増加したことを考慮して、Excessive Agency が拡張されました。 LLM がエージェントとして機能する場合、またはプラグイン設定で機能する場合、権限がチェックされていないと、意図しないアクションや危険なアクションが発生する可能性があるため、このエントリはこれまで以上に重要になります。
テクノロジー自体と同様、このリストもオープンソース コミュニティの洞察と経験の成果です。これは、より安全な AI アプリケーションの構築に尽力する、さまざまな分野の開発者、データ サイエンティスト、セキュリティ専門家からの貢献によって形成されています。この 2025 年バージョンを皆さんと共有できることを誇りに思っており、LLM を効果的に保護するためのツールと知識が皆さんに提供されることを願っています。
これをまとめるのに協力してくれた皆さん、そしてそれを使用し改善し続けてくれた皆さんに感謝します。皆さんと一緒にこの取り組みに参加できることに感謝しています。
###@ Steve Wilson Project Lead OWASP Top 10 for Large Language Model Applications LinkedIn: https://www.linkedin.com/in/wilsonsd/
###@ Ads Dawson Technical Lead & Vulnerability Entries Lead OWASP Top 10 for Large Language Model Applications LinkedIn: https://www.linkedin.com/in/adamdawson0/