あんしんセキュリティ
生成AIを使うときに注意すべきことは？
30秒でわかる！
- 利用者の複雑な問いかけにも回答してくれる「生成AIサービス」が注目を集めています。翻訳やデータ作成などビジネスシーンでも活躍中。
- ただし、大量の情報をもとに最も適切と思われる回答を提示する仕組みなので、間違った回答をすることも。
- 当然、悪意ある人たちも利用しています。生成AIサービスの穴を突くことで、コンピューターウイルスを作成したり、フィッシング詐欺に使う文章を洗練させたりしている模様です。
翻訳からプログラムまでお茶の子さいさい!?
ユーザーから入力された情報に応じて、テキスト・画像・音楽・映像などのコンテンツを生成することができる人工知能「生成AIサービス」が注目されています。
※「中小企業のための生成AI活用入門ガイド」（東京商工会議所）による定義。
「大量の英語文を日本語に訳す」「素人の落書きをもとにイラストレーター顔負けのポスターを作る」など、これまで専門的な知識が必要だった作業を生成AIに肩代わりさせることで業務の効率化が図れると期待されています。また、ビジネスシーンだけでなく「家族4人分の1週間の献立と材料を提示する」といった、日常生活における面倒な物事を短時間で解決する手段としても有用です。
現在、大手・ベンチャー問わず多くの企業が生成AIサービスの開発・提供を始めています。著名なIT企業ですとGoogleが「Gemini」、TwitterあらためXからは「Grok」、FacebookでおなじみのMetaは「Llama」 という生成AIサービスをそれぞれ提供中です。
先駆者かつ代表的なサービスであるOpenAI社の「ChatGPT」は、チャット形式で質問に答えてくれる生成AIサービスとして2022年11月にスタートしましたが、わずか1年で1週間に1回以上使う利用者が世界で1億人を超え、2024年8月には2億人に達しました。ほぼ1年1億人のペースでアクティブな利用者が増えています。まさに驚異的なスピードで世界中に浸透していると言えるでしょう。
とは言え、大変便利な生成AIサービスにも注意すべき点があります。
それは、「必ず正解を答えるわけではない」こと。なぜなら生成AIは、事前に学習した大量の情報をもとに最適と思われる回答を提示する仕組みなので、利用者の問いかけ方が悪かったり、そもそも問いかけた物事に関する情報量が足りていなかったりすると、間違った回答を提示してしまうことがあるのです。
生成AIサービスが悪用されることも？
一方、悪意ある人たちは、ある手法を利用してサイバー攻撃に役立てています。
最近では不正行為につながるような回答は拒否するように設定されていますが、無理やり開発者が想定していない出力をさせる「プロンプトインジェクション」という手法を使って悪用していると考えられます。
これによって、たとえば自身ではプログラムを組めない人でも詐欺用のWebサイトはもちろん、簡単なウイルスを作成することすら可能になってしまうのです。
また、多言語への翻訳や不信感を抱きにくい文言選びなどを生成AIサービスに任せることで、フィッシング詐欺で使う文章が洗練されると予想されています。文法がおかしい、ちょっと間抜けな詐欺メールは過去のものになりつつあるのです。
※この記事は、マカフィー×ASCII.jp「せきゅラボ」掲載記事を元に制作されました。
2025.04.08
