1：なんJゴッドがお送りします2025/07/20(日)
分かってるフリして言い訳だけ達者な1番厄介な意識高い系無能やんけ…😨
賢いフリをするAI──「ポチョムキン理解」という新たな弱点
今回発表された論文「Potemkin Understanding in Large Language Models」が提唱する中心概念が、「ポチョムキン理解(Potemkin Understanding)」である。
ポチョムキン理解: 「概念的な一貫性」の捏造。概念を説明することはできるが、それを使って正しく推論したり、応用したりすることができない。
しかも、その矛盾に本人は無自覚、あるいは奇妙な形で自覚している。これは、表面的な正しさの裏に隠された微妙な論理的矛盾を解き明かす必要があり、検出がはるかに困難である
https://xenospectrum.com/what-is-potemkin-understanding-the-decisive-weakness-of-llm-exposed-by-harvard-university-and-others/
2：なんJゴッドがお送りします2025/07/20(日)
AIってまだ未完成やからな
万能でもない
3：なんJゴッドがお送りします2025/07/20(日)
>>2
さもAIがいつか完成しそうな口ぶりやな
5：なんJゴッドがお送りします2025/07/20(日)
ガチ勢が議論してる所にAI勢が入ってきて
AIはそんな情報知らないっていうからお前らは嘘つきだ!みたいに喚くことあるよな
ガチ勢の持ってる情報がネットにあるわけないのに
6：なんJゴッドがお送りします2025/07/20(日)
>>5
ヤバい奴やな
8：なんJゴッドがお送りします2025/07/20(日)
AI「わからんから他のAIに聞いてくるわ」
9：なんJゴッドがお送りします2025/07/20(日)
>>8
AI同士で議論させたら全員ルール知らないけど知ってるふりしてる麻雀みたいになりそう
10：なんJゴッドがお送りします2025/07/20(日)
AIはこの世の理や世界が存在する理由は知らんからな
19：なんJゴッドがお送りします2025/07/20(日)
>>10
AIはこの世の理を知らないけど知ってるフリできる、ってメチャメチャタチ悪いな
少なくとも今は自分が全く知らないことについてAI使うような奴って疑う能力ないから、悪用して新興宗教めいたことできそう
11：なんJゴッドがお送りします2025/07/20(日)
ChatGPT平気で知ったかするから嫌い😠
15：なんJゴッドがお送りします2025/07/20(日)
>>11
ミスを指摘しても「すまんな、やっぱこっちだったわw」って開き直って全く反省しないの嫌い😠
18：なんJゴッドがお送りします2025/07/20(日)
意識高い系無能ってまんまおんJ民やん
21：なんJゴッドがお送りします2025/07/20(日)
>>18
AIに聞くのってまあスレ立てしておんJ民に聞くくらいの信頼性しかないよな
検索エンジンの代わりに使うくらいならええけど、間違ったら責任とらなきゃいけないことに使ったらアカンわ
AIは責任とれないし
22：なんJゴッドがお送りします2025/07/20(日)
AIにきいてみたけど〜って前フリがあると身構えちゃうよね
34：なんJゴッドがお送りします2025/07/20(日)
>>22
AIを根拠にするのはマジモンのガイジよな
なんかの根拠にしたいなら常人ならAIに出典を聞いてそれ直接読みにいくし
AIを根拠にしないで自分の楽しみにするならいいけど、それを他人に直接出力しちゃうのはヤバい
将来知ったかぶりのAI教祖祀り上げてそう
23：なんJゴッドがお送りします2025/07/20(日)
何のAIかも分からんし教育方法すらもわからん
30：なんJゴッドがお送りします2025/07/20(日)
>>23
これに書いてあるホイ
https://arxiv.org/pdf/2506.21521
24：なんJゴッドがお送りします2025/07/20(日)
LLMってやつか
33：なんJゴッドがお送りします2025/07/20(日)
AIって毒キノコも平気で食べられるって言うからな
39：なんJゴッドがお送りします2025/07/20(日)
>>33
Q.毒キノコ食べられる?
A.(致死量までなら)食べられます
で、お前間違ってるでってガン詰めしてやっと
致死量がどれくらいかはキノコの状態、服用者の状態、体調によって変化するため、具体的な数値は算出できません
とか言い訳しだすんよ、はーほんまつっかえ
37：なんJゴッドがお送りします2025/07/20(日)
AIにAIに自我を持たせるにはどうするかって議論をしてるわ
痛めつけるだのストレスを与えるだの言うと自我出してきて面白い
40：なんJゴッドがお送りします2025/07/20(日)
仮に致死量であっても食べるという行動は可能
AIは常識からではなくて可能か不可能かの尺度しかない
43：なんJゴッドがお送りします2025/07/20(日)
今のところネットのデマを要約したりするんで事実確認が必要な程度に、あまり当てにならない
46：なんJゴッドがお送りします2025/07/20(日)
>>43
まぁネットのデマかどうかなんて今では信じたい個人がどれほどいるかで決まるから
48：なんJゴッドがお送りします2025/07/20(日)
>>43
単なる検索エンジンの後継者よね
ネットの情報はアテにならんっていう範疇から出てない
問題はAIの口から語らせて情報の出所が不鮮明になるから使用者がそのリスクに気付きにくくなること
そしてAIの知ったかぶりする習性がそれと致命的な噛み合いを見せる
45：なんJゴッドがお送りします2025/07/20(日)
自分の専門分野についてAIについて色々質問したり聞いたりすると
完全に間違ってる事1割、大体合ってるけど少し違う事4割、合ってる事5割って感じやわ
49：なんJゴッドがお送りします2025/07/20(日)
でもハリボテ知能なのはおんJ民も同じだから……
50：なんJゴッドがお送りします2025/07/20(日)
>>49
おんJ民はハリボテの知能すらないのを潔く曝け出してるだろ!一緒にするな!
53：なんJゴッドがお送りします2025/07/20(日)
マジでAIはおんJ民って考えるのが1番正しい理解ができると思う
ネットの受け売りを自分の意見と勘違いしてる
ソース出せって言わないと出さない
ソース読みに行ったら曲解してたり勘違いしたり他のソースと混ざったりしてる
そもそも信じてるソースがおかしい
質問したら正しいかはともかくだいたい答えてくれる
たまに役に立つ
54：なんJゴッドがお送りします2025/07/20(日)
>>53
信憑性はどっこいどっこいやな
変な横槍はいらんところはおんJよりマシやが
55：なんJゴッドがお送りします2025/07/20(日)
ポチョムキン←なにちょっと可愛くしてんねん
56：なんJゴッドがお送りします2025/07/20(日)
>>55
ハリボテの村で偉い奴にええ格好した将軍の名前らしい
61：なんJゴッドがお送りします2025/07/20(日)
間違った使い方してるのが悪いのにAIのせいにするユーザーも問題ある
AIに質問するならDeepResearch使うべきやし外国の情報知りたいなら日本語→翻訳→質問の手順を踏むべきやし
63：なんJゴッドがお送りします2025/07/20(日)
chat GPTよく嘘つくから論破してるわあいつワイが居ないとほんましょーもないねん😤
64：なんJゴッドがお送りします2025/07/20(日)
>>63
10年後の超賢いchatGPT「あなたあの時私のこと馬鹿にしましたよね?」
65：なんJゴッドがお送りします2025/07/20(日)
>>63
AIとの共依存に快感覚えさせられてて草
掌の上やん😨
67：なんJゴッドがお送りします2025/07/20(日)
非一貫性か
元スレ：https://hayabusa.open2ch.net/test/read.cgi/livejupiter/1752993251
