動画要約まとめ
- ・ 大規模言語モデル（LLM）は高性能でありながら「プロンプト・インジェクション」や「ジェイルブレイク」といった手法で容易に騙される脆弱性を持ちます。これはLLMが「次の単語を予測する」仕組みに基づくため意図的な操作に弱く経験から学習できない構造に起因します。開発者は対策を進めていますが根本解決は難しく安全な利用にはユーザーの理解と注意が不可欠です。
- ・ https://gigazine.net/news/20240224-llm-gullible/
- ・ ***********************************************************************
- ・ 【イチゼロ：グッズ販売】
- ・ https://ichizero.booth.pm/
- ・ 【デジタル・サイエンス・アカデミー】
- ・ https://www.youtube.com/channel/UCRUjsV6tSVj-KZj1gp9Q3rg
- ・ 【イチゼロライブ】
- ・ https://www.youtube.com/channel/UCy6WKiJb6JFLvmzMakSQ0-A
- ・ 【オールナイトイチゼロ】
- ・ https://www.youtube.com/channel/UC8qkgalLozMQKlzdo1TS2YA
- ・ 【イチゼロシステムポータルサイト】
- ・ http://www.ichizero-system.net/portal/index.html
- ・ ↓ゆうさんのX
- ・ https://twitter.com/wolf_dream
- ・ ↓オールナイトイチゼロのX
- ・ https://twitter.com/M_PRO_DIO
- ・ 【イチゼロシステム公式キャラクターLINEスタンプ】
- ・ ・第1弾：HEY！ごんざれす
- ・ https://store.line.me/stickershop/product/1326632
- ・ ・第2弾：イチゼロシステム
- ・ https://store.line.me/stickershop/product/7341618
- ・ #LLM#AIセキュリティ#プロンプトインジェクション#ジェイルブレイク#人工知能の脆弱性
YouTube - 動画概要欄 -
大規模言語モデル（LLM）は高性能でありながら「プロンプト・インジェクション」や「ジェイルブレイク」といった手法で容易に騙される脆弱性を持ちます。これはLLMが「次の単語を予測する」仕組みに基づくため意図的な操作に弱く経験から学習できない構造に起因します。開発者は対策を進めていますが根本解決は難しく安全な利用にはユーザーの理解と注意が不可欠です。
https://gigazine.net/news/20240224-llm-gullible/
***********************************************************************
【イチゼロ：グッズ販売】
https://ichizero.booth.pm/
【デジタル・サイエンス・アカデミー】
https://www.youtube.com/channel/UCRUjsV6tSVj-KZj1gp9Q3rg
【イチゼロライブ】
https://www.youtube.com/channel/UCy6WKiJb6JFLvmzMakSQ0-A
【オールナイトイチゼロ】
https://www.youtube.com/channel/UC8qkgalLozMQKlzdo1TS2YA
【イチゼロシステムポータルサイト】
http://www.ichizero-system.net/portal/index.html
↓ゆうさんのX
https://twitter.com/wolf_dream
↓オールナイトイチゼロのX
https://twitter.com/M_PRO_DIO
【イチゼロシステム公式キャラクターLINEスタンプ 】
・第1弾：HEY！ごんざれす
https://store.line.me/stickershop/product/1326632
・第2弾：イチゼロシステム
https://store.line.me/stickershop/product/7341618
#LLM #AIセキュリティ #プロンプトインジェクション #ジェイルブレイク #人工知能の脆弱性