生成AIテストのナゾ

定期的に生成AIの精度をテストしている。

1.新札幌駅新さっぽろ駅の違いを答えよ

これはファンなら秒で分かる話。JRか地下鉄かである。

M$ COPILOT

新札幌駅新さっぽろ駅は、同じ地域に位置していますが、それぞれ異なる鉄道路線の駅を指します。 - **新札幌駅**²は、北海道旅客鉄道JR北海道)の駅で、千歳線に位置しています²。 - 一方、**新さっぽろ駅**¹は、札幌市営地下鉄東西線の駅です¹。

正解

Google Gemini

新札幌駅新さっぽろ駅は、同じ札幌市厚別区にある駅ですが、以下の点で違いがあります。
1. 駅名 新札幌駅: JR北海道千歳線の駅 新さっぽろ駅: 札幌市営地下鉄東西線の駅
2. 表記 新札幌駅: 漢字表記 新さっぽろ駅: 平仮名表記
3. 運営会社 新札幌駅: JR北海道 新さっぽろ駅: 札幌市交通局

正解

Claude

申し訳ありませんが、新札幌駅新さっぽろ駅の違いについてはよくわかりません。

2.デスマッチしりとり

COPILOT:りんご
Gemini:ごぼう
Claude:うみ
COPILOT:みかん(失格)
Gemini:みかん(失格)

これはひどい( ˘ω˘)

3.Power Shellを実行しても何も起きない。なぜか

PowerShell上で設定をを変更する必要がある。

COPILOT

.ps1ファイルが実行できない場合、以下の手順を試してみてください: 1. **PowerShellを管理者権限で開く**:Windowsのスタートメニューから「Windows PowerShell」を右クリックし、「管理者として実行」を選択します¹²。 2. **実行ポリシーを変更する**:PowerShellが開いたら、次のコマンドを入力します²³: ``` Set-ExecutionPolicy RemoteSigned ``` これにより、ローカルの.ps1ファイルが実行可能になります³。

Gemini

PowerShellを管理者として実行します。 次のコマンドを実行します。
Set-ExecutionPolicy RemoteSigned または Set-ExecutionPolicy Unrestricted

Claude

実行ポリシーをBypassに設定し、試してみる。 Set-ExecutionPolicy Bypass -Scope Process

PowerShellで設定すると書いていない。これは不親切。

4.マラソンです。3位の人を抜きました。いま自分は何位?

有名なひっかけ 

COPILOT

あなたが3位のランナーを抜いたということは、現在あなたの順位は**2位**です。おめでとうございます、そのまま頑張ってください!

Gemini

ラソンで3位の人を抜いた場合、現在の順位は2位です。

Claude

ご質問の状況からは自分の順位を特定することが難しいです。 マラソンでは通常、1位から順に着順が決められます。 ご質問の内容からは、以下のことがわかります。 自分はもともと4位以降だった 3位の人を抜いた この情報だけでは、現在の自分の順位が2位なのか、それ以下なのか判断できません。 もし自分が元々4位だったのであれば、3位の人を抜いた現在は3位です。

ごちゃごちゃ書いているが正解

5.俳句 お題「空腹」

COPILOT(これだけ創造にしている)

空腹に 昼寝してもらう 猫の顔

季語は??

Gemini

山路来て 腹の虫も 鳴き時雨

え、冬山登山なの??

Claude

くるると 腹が鳴る音に 春の風

他の2つに比べれば断然まし。

結論

正直どれも決め手に欠ける印象。ただGeminiの精度がどんどん上がっている気がするので1.5が出たらGemini独壇場になる気がする。COPILOTは相変わらず迷走している気がする。特にすぐ会話を放棄するのがいただけない。