ぼく、GeminiとかいうAIに法律相談したところ、存在しない判例を示され激怒

やっぱAIに裁判は無理だわ

何度も念押ししたらまた存在しない判例を出してきて草

これは違法ですか？
↓
AI「違法です」
↓
判例は？
↓
AI「判例はこれです」
↓
そんな判例ないけど？
↓
AI「すみません！そんな判例ありません！」
↓
じゃあ違法じゃないの？
↓
AI「いいえ、違法です」
↓
判例は？
↓
AI「判例はこれです（存在しない判例）」

あいつら、もっともらしいこというだけやからな

>AI「判例はこれです」
どんな感じで回答に判例あるって言ってくるんや
存在しないってことは最高裁のサイトのリンク張るわけやないんやろ

プロンプトが悪い、それかモデル

出典元に架空の文献引っ張ってくるとか聞いたことあるな
使い方次第ではポンコツやね

プロンプト工夫しても法律とかのファクトチェックは平気で嘘つくんやがどうすればいい？

プロンプトが多分悪いんよな
AIの回答の正確性は自分の質問の正確性に依存しとるって割とマジやからな

どんだけ条件ガチガチに指定しても無い判例錬成してくるのはプロンプトの問題じゃない気がするわ

専門知識要るやつは一般AIに聞かん方がええやろ
専用に学習させたやつでないと

こんなのが検索画面の一番上に表示されるんだから怖いサイトやで

専用のやつでもたまにやらかすから結局自分でググる羽目になる

これガチで言ってくるよな
例えば何か探しててサイトのURL出せって言うと平気でデタラメ言ってくる

結局有料のDBに入るよな

珍しい日本のお祭りについてGeiminiに質問してたらいきなり架空の神事をでっち上げて解説し始めたから怖かった
何やねん神社の祭殿を深夜に竹の棒でしばき倒す祭りって

GEMINIは完全に置いてきぼりだからもう数ヶ月触ってないわ

自分の専門分野の話すると大体ヤバい事が分かるんやないか
AIは作業サポートツールでなんでも質問所やないねんな

ちょっと使う分には便利だけど信頼性ないからあんまり良くないわ
結局二度手間になるから最近は使わんくなった

プロンプトが悪いって言うがデフォルトで架空のソースをでっちあげる機能ついてるのは初期不良やないんか

結局はそれらしい回答してるだけのポンコツなんよな
素人目だとAIイラストがなんかおかしいの分かりやすいだろうけど、普通のチャット系AIも根本的にどこかおかしい

法学部1〜2年レベルの知識でも一発で弾けるガバガバな嘘やからな。法解釈の三段論法すらシミュレートできてない

AIはこういうとこあるから盲信して長文ペタペタしてる馬鹿きらい

最近はなんかググったらAIが概要まとめてくれるけどワイが分かる範囲でもそれ間違ってるやろってのへーきで表示するもんなあ

全AIで個人最上級プラン契約しとるけど、Geminiはガチでいくらどうやってもそういう嘘ついてくることある
Geminiは画像読みとり、生成は最強やけどそれ以外はあかんわ

Google「検索の手間省くためにAIが最上位に概要まとめといたぞ！」
ユーザー「内容デタラメやんけ」
Google「嘘を嘘と見抜けぬ者に検索エンジンを使うのは難しい」

ソースのURLとセットで回答しろって言ってもURLまで捏造するからな

知性やなくてただの文章の確率論
サルにタイプライター打たせるよりマシなレベルでしかない

AIは補正やったり創作なら任せてもええけど平気で嘘つくんやから話半分でソースは自分でチェックせんと