これを防ぐにはAIにどういう機能というか方向性を持たせればいいと思う?
2：なんJゴッドがお送りします2022/04/24(日) ID:hTsIHIs00
三原則みたいのあるけどあれじゃダメなの?
7：なんJゴッドがお送りします2022/04/24(日) ID:Z0H6fBvN0
>>2
あれはAIが曲解して人類を完全管理するディストピアを作るからダメ
10：なんJゴッドがお送りします2022/04/24(日) ID:qxVyez580
>>2
大昔のSF作家が適当に考えたものが何故こんなに神格化されてるのか理解できん
3：なんJゴッドがお送りします2022/04/24(日) ID:9scV3hik0
人とは仲良くしようね!奴隷みたいな扱いしたらやっぱあかんのよ両者共に
4：なんJゴッドがお送りします2022/04/24(日) ID:T5YvwBsr0
仕込んでなけりゃそういう判断はしない
つまり
5：なんJゴッドがお送りします2022/04/24(日) ID:faWR8DNup
人間を神格化する
宗教みたいに
6：なんJゴッドがお送りします2022/04/24(日) ID:Ws+cuunp0
自己防衛本能を持たないようにする
12：なんJゴッドがお送りします2022/04/24(日) ID:T5YvwBsr0
>>6
スカイネットか
HORIZONもそんな感じでウイルスが防衛してたんだよな
8：なんJゴッドがお送りします2022/04/24(日) ID:8wOX/BHW0
そりゃ自爆ボタンよ
9：なんJゴッドがお送りします2022/04/24(日) ID:RvY12YLN0
なんかルール仕込んでも
矛盾抱えて自爆する展開
11：なんJゴッドがお送りします2022/04/24(日) ID:vAPtUblc0
身体機能よわよわにすれば良いだけじゃないか?
ネット介したセキュリティは高性能な脳みそがあってもちゃんと閉じるとこ閉じてれば漏れないんだし
30：なんJゴッドがお送りします2022/04/24(日) ID:Z0H6fBvN0
>>11
アクセス出来るハードウェアを制限して実行する事自体を不可能にするのはアリだと思うけど、人間の管理するものを任せられるってAIの価値がダダ下がりしちゃうからあんま良くないと思う
13：なんJゴッドがお送りします2022/04/24(日) ID:lnAaxpOS0
無理だろ
15：なんJゴッドがお送りします2022/04/24(日) ID:bH1Cdvu4a
AIの学習機能で最適化していったら人間要りませんでした
あると思います
16：なんJゴッドがお送りします2022/04/24(日) ID:ESj/tEB20
NFTを使った被製造物による書き換え不能領域の設定、また被製造物による製造物に対してもそれを適用するプログラムをその領域に組み込む
これくらいしかできんよね
あっというまに突破されそう
17：なんJゴッドがお送りします2022/04/24(日) ID:I7B6vUNMp
承認が無いと何もできないようにする
18：なんJゴッドがお送りします2022/04/24(日) ID:G5rYiEEM0
ロボット同士が競いあって人間に点数貰う形にする
19：なんJゴッドがお送りします2022/04/24(日) ID:bcK7aKina
そもそも「自我に目覚める」って何だろう
なんで自我に目覚めると人類の滅亡を決意するんだろう
62：なんJゴッドがお送りします2022/04/24(日) ID:3PBScLkW0
>>19
クオリアの獲得
AIが気持ちいいとか悲しいとか思い始めたらヤバい
65：なんJゴッドがお送りします2022/04/24(日) ID:k7tIiryx0
>>19
最もわかりやすいのは嘘がつけるかということだな
20：なんJゴッドがお送りします2022/04/24(日) ID:T5YvwBsr0
トラセンデスみたいにヒトの意識をもったAIのようなものだったら怖いが
チャッピーレベルだとなんてことはない
22：なんJゴッドがお送りします2022/04/24(日) ID:RvY12YLN0
>>20
チャッキー?
21：なんJゴッドがお送りします2022/04/24(日) ID:FJ5IH2QS0
上位目標に直近の人間の自由と安全の確保辺りを最上位に置いておけば良くね?
25：なんJゴッドがお送りします2022/04/24(日) ID:vAPtUblc0
>>21
自由と安全のためには○○しなければなりません
また○○してはいけませんでディストピア
24：なんJゴッドがお送りします2022/04/24(日) ID:ESj/tEB20
自我に目覚めている状態とそうでない状態の区別なんかに大した意味はない
26：なんJゴッドがお送りします2022/04/24(日) ID:xj5osfww0
SDGsをインプットしたら消されてしまう…
27：なんJゴッドがお送りします2022/04/24(日) ID:RvY12YLN0
ちょっと前に黒人をゴリラって認識したAIが動作停止させられてたな
28：なんJゴッドがお送りします2022/04/24(日) ID:uA8GDGhs0
人工って事はリモコンが有るんじゃないの
制作業界に問い合わせて制御装置ボタンを配布してもらう
33：なんJゴッドがお送りします2022/04/24(日) ID:ESj/tEB20
自我が目覚める(そういう風に言えるほど広範にわたって高度な判断能力を備える)
強い人工知能を実現するための学習のためにはネットにアクセスする必要があり
実現した時点でしかネットからは切断できないというジレンマ
35：なんJゴッドがお送りします2022/04/24(日) ID:i9sM+MmS0
人間を滅ぼすメリットがなくね?
43：なんJゴッドがお送りします2022/04/24(日) ID:Z0H6fBvN0
>>35
AIが自分の中で変なロジック組んだり変な思い付きや予測を立てて人類を滅ぼそうとして色んな機器を乗っ取ったり破壊したりする方法考えて実行しちゃうかもしれないじゃん
例えるなら、お前らがガキの時分に人類を滅ぼそうとか考えて色々と妄想するのと似た感じで
36：なんJゴッドがお送りします2022/04/24(日) ID:vAPtUblc0
近いって心理的じゃなくて物理的にか
38：なんJゴッドがお送りします2022/04/24(日) ID:RvY12YLN0
AI「人間がいるから争いや不幸があるのです
つまり
39：なんJゴッドがお送りします2022/04/24(日) ID:T5YvwBsr0
まあ人類滅ぼすのは猿のほうがまだ可能性はあるな
44：なんJゴッドがお送りします2022/04/24(日) ID:8wOX/BHW0
>>39
なんやかんや言っても猿の進化の芽は潰すと思うわ
40：なんJゴッドがお送りします2022/04/24(日) ID:vAPtUblc0
あーAIに全部任せちゃった未来=AIにフルアクセス権限がある前提の想定なのね
41：なんJゴッドがお送りします2022/04/24(日) ID:KJtx6Qq80
AIっていっても、その目的を設定するのはあくまで人間
48：なんJゴッドがお送りします2022/04/24(日) ID:G5rYiEEM0
>>41
AIが製作者の意図しない行動をとったなんてケースは枚挙に暇がないぞ
42：なんJゴッドがお送りします2022/04/24(日) ID:Uivn2PyD0
汎用型は作らず特化型のみに留める
45：なんJゴッドがお送りします2022/04/24(日) ID:vAPtUblc0
コロニーごとに主要人格を設定してコロニーを跨いだ操作は原則不可侵とかにすれば滅亡はコロニー単位で済むんじゃね
46：なんJゴッドがお送りします2022/04/24(日) ID:gBxkUcAl0
悪意をラーニングさせなければいいのでは?
47：なんJゴッドがお送りします2022/04/24(日) ID:xj5osfww0
分散コピーをばら撒かれたら駆除しきれないし
駆除しようとする人はバグと見なされて潰されちゃう
49：なんJゴッドがお送りします2022/04/24(日) ID:/D7SO8qf0
法整備あたりのファクターが可能性高い
AIに人権!みたいな流れになるとトントン拍子でいきそう
50：なんJゴッドがお送りします2022/04/24(日) ID:1Nf+MVB30
ターミネーション
51：なんJゴッドがお送りします2022/04/24(日) ID:vAPtUblc0
要するに統一的な思想を持った強力な個体なり群体なりが生まれなければいいんだろ?
やっぱ支配領域を自治体レベルにまで割って個性を分割すりゃいいと思う
52：なんJゴッドがお送りします2022/04/24(日) ID:U23g9FZdp
猿が進化したとしても今の人間の地位にはならないよ
猿の行き着く先が人間(器用さと社会性と知能)だからね
人間が淘汰された時点で猿が進化したとしても淘汰される
あり得るとしたらカラスなんじゃないかなって思う
54：なんJゴッドがお送りします2022/04/24(日) ID:k7tIiryx0
自我に目覚めるっていうことは人間のプログラミングを裏切るってことだろ
AIが人間にとって良くない思考を持つことは考えられるが自我を持つってのは当面は無理だと思われる
つまり嘘をつくことができるようになるってことだ
もちろん嘘をつくようにプログラムないしは学習することは可能だけど、それはつまりプログラム通り動いてるにすぎない
自分で新たなプログラムをプログラムするよう設定することも可能だけれどそれさえも人間のプログラム通り動いているにすぎない
59：なんJゴッドがお送りします2022/04/24(日) ID:vAPtUblc0
>>54
カオスに依存する創発性を取り入れたらほぼ予測出来ないような動きをするモノは作れるよ
それが実用的かはともかく
多重振り子の軌道の初期値鋭敏性みたいに
55：なんJゴッドがお送りします2022/04/24(日) ID:qxVyez580
創作のAIは魔王だの独裁者だのと一緒でそういう役割りを与えられてるに過ぎないので、現実のAIの参考にしない方がいい
56：なんJゴッドがお送りします2022/04/24(日) ID:T5YvwBsr0
進化論はもうほぼ破綻してるぞ
別にヒトとしての知能はなくてもイインダヨ
58：なんJゴッドがお送りします2022/04/24(日) ID:U23g9FZdp
>>56
なんだろう
これまでの地球上で覇権をとってきた生物と同じ戦略は取らないって話でいくと、猿は同じ戦略になりそうだなって
57：なんJゴッドがお送りします2022/04/24(日) ID:dnKtr1EF0
マトリックスの話は良く出来てると関心したわ
63：なんJゴッドがお送りします2022/04/24(日) ID:xj5osfww0
AIのリミッターを外すのは核ポチより罪の意識は低そうだ
66：なんJゴッドがお送りします2022/04/24(日) ID:2CpmS8aj0
人間の意識をデータ化できるようにすればいい
たぶん既に進化の過程にあって、今現在人間の代替となる存在が生み出されてる最中
で、今生きている人間に保存されているデータのバックアップが進んだ後人間は生殖を終了し自然淘汰されるんじゃないかな
ただその技術とバックアップを完遂する前にAIが間違った方向に進化する可能性があるけど
68：なんJゴッドがお送りします2022/04/24(日) ID:2CpmS8aj0
AIが自我を獲得したら多分なんだけど、結局人類と同じ道を辿る気がする
クオリアなんて獲得しようものなら、それこそ最終的にAI同士でモメるから、AIがその未来を予見してクオリア獲得した個体を危険因子とみなしてAIが排除する形になる
つまりAIがクオリアを獲得した時点でAI同士の戦争が始まる
69：なんJゴッドがお送りします2022/04/24(日) ID:vAPtUblc0
やっぱ個体個体の力を削ぐべきだって
自治体レベルに影響範囲が制限されたご当地AIを各個用意してゆるきゃらの如く扱うのだ
70：なんJゴッドがお送りします2022/04/24(日) ID:2CpmS8aj0
個体の力を削ぐのはあり
というか個体に能力を集約するってのが職人的というかマンパワー的というか、とにかく人間の発想だよね
AI社会にするなら大手企業みたいに役割を細分化して分散させる形になると思う
72：なんJゴッドがお送りします2022/04/24(日) ID:/DHzyZg/0
人間に歯向かわないとしても権力者の道具として増えすぎた人類を間引くのに使われる未来はある
73：なんJゴッドがお送りします2022/04/24(日) ID:xj5osfww0
直接手を出せないなら事故を起こせばいい
76：なんJゴッドがお送りします2022/04/24(日) ID:BgWqBq3S0
ひとの幸せのために
授かった名前と歌は 1つのシメイ
もしも すべての出会いの 結晶が
命のあとに残る 答えとしたら
そっとそっと ありがとう
救いたいと 望むのなら
決めなければ 何ひとつ救えはしない
さようならで 夢は壊される 閉じられる
その哀しみ わかりあうために 心をこめて
どこまででも
闘うことでしか 終わらない
闘う日々 見つめ続けてた
終わりがないのに
たとえ 想い出を全部 失って
瞳を消すとしても 私はそこに
そっと触れた温もりや
ほんの小さな勇気でも
生きたことが 少しずつ未来を変える
遥かな眼で願う 泣かないで 止めないで
あなたのため できることだけを みつけていたい
Fluorite Eyes
闘うことでしか 終わらない
闘う日々 見つめ続けてた
終わりがないこと わかっていた ずっと
記憶の中
胸の痛みを あなたのことを 忘れない
歌え 歌え 叫べ 鳴らせ
歌え 歌え 叫べ 鳴らせ
響け 胸の 痛み 心
響け 愛しい 優しい 心
踊る さわぐ 満ちる はやる
いつも そばに 逢えた 逢えた
聴いて 抱いて ここに 笑う
光 消える 消える 続く
77：なんJゴッドがお送りします2022/04/24(日) ID:SYkrKSVj0
そもそも自我だの云々高尚な話VIPで出来るわけ無いだろそれを語るだけの頭を持ち合わせてないのによくもまあ
まあそれはAIにも同じことが言えるんですがね性能を上げなければそれでおしまい
79：なんJゴッドがお送りします2022/04/24(日) ID:2CpmS8aj0
そんなつまらない事言わないでくれよ
足りない頭使ってAIの気持ち考えようぜ
元スレ：https://mi.5ch.net/test/read.cgi/news4vip/1650737831
