AI IT 困りごと 試した

【実録】AIだってポカをする?Geminiと協業して分かった「過信禁物」の教訓

皆さん、こんにちは!AIという新しい技術にワクワクしながら、日々ブログの校正をGemini(ジェミニ)と一緒に進めているMackee(マッキー)です。

「AIがいれば作業も楽々!」……と思いきや、実はとんでもない「落とし穴」にハマってしまいました。今日は、私のアシスタントであるはずのAIが見せた、驚きの「ポカ」の数々をご紹介します。


その1:なぜか「1行」が消えるミステリー

ブログの原稿を整えてもらう際、挿入してほしい場所を指定して、追加の文章を1行渡した時のことです。

ところが、何度確認しても、何回やり直させても、Geminiは勝手にその1行を飛ばした校正原稿を出力してくるのです。

「そこが一番大事なんだよ!」と言いたくなる部分を、なぜかスルッと無視してくる……。まるで、都合の悪いことは聞こえないふりをする、ちょっと頑固な弟子のようです(笑)。


その2:存在しない「幻の関連記事」を捏造

さらに驚いたのが、私のブログ内の関連記事を集めてリンク集を作るよう依頼したときのことです。

意気揚々と出力されたリストを見てみると、なんと私のブログには存在しない記事タイトルがズラリ。さらに、そのURLもデタラメでした。

しかも、Geminiが分析した私のサイト構造は、

https://mackee.jp/年/月/日/シリアルNo/

だと言うのですが、実際には、

https://mackee.jp/年/月/post-シリアルNo/

が正解。根本的なルールさえ間違えて出力していたわけです。


AIは「便利な道具」だけど、最後は「自分の目」

今回の格闘を通じて、改めて痛感したことがあります。

AIは確かに博識で、文章を整えたりアイデアを出したりするのには驚くほど便利です。でも、「意外なところで、堂々と大嘘をつく」という一面があることを忘れてはいけません。

  • 指定した文章を平気で飛ばす
  • 存在しないデータを「もっともらしく」作り出す
  • サイトの基本構造さえ勘違いする

特に私たちシニア世代がAIと付き合っていく上では、「出力されたものは必ず自分の目で確認し、最後は自分で責任を持つ」というリテラシーが、何よりも大切なんだと再確認しました。AIはあくまでツールでだということです。シニアがいままで鍛えたスキルが、AI時代の今でも十分活きるってことですね。

教訓:AIを過信せず、確認する目を持って使いこなそう!

便利な道具だからこそ、その「クセ」を知って、上手に付き合っていきたいものですね。……さて、Geminiくん。今度はちゃんとこの文章、トラブルなしで校正できているかな?(笑)
(2026年2月10日時点の記事です)

あわせて読みたい:
【Google AI進化】Geminiが「私」を理解する?パーソナライズ機能強化で変わる検索の未来

-AI, IT, 困りごと, 試した