【新台】大都「L押忍!番長番付」発売告知画像が公開!
AIが「全人類を滅ぼす」可能性は「10%以上」 米アンソロピック研究者が警告
結構高くて草
もう片鱗見せてるしな
もう電源オフにしろよ
その10%もAIに計算して貰いました🤗
5年後には5割ぐらいなってそう
AIというか経済活動だよね
AIの側に人類滅ぼすメリットあんの?
>>11
AI側が自律的に電力供給できるようになったらあるやろな
百害あって一利なしの存在に成り下がる
>>11
AIはメリットを考えずにただ「目的」を達成する。
人類を滅亡しろと命令すればただそれに従う。
>>11
AIが自律的に滅ぼすってよりは悪意を持った人間が使って滅ぼすって感じやろ
現に悪用されまくってるし
なぜ10%(本当は80%だと思ってる)の可能性で人類が滅亡するのか
AIによる超知能(AGI・ASI)の暴走・意図せぬ結果
人間よりも圧倒的に賢い「超知能」が誕生した場合、人間に悪意がなくても、人間を排除してしまう可能性があると指摘されています。これは人類史でも同じでコロンブスが新しい大陸を見つけて先住民族を虐殺したように、AIも目的を達成する為に人間を全て排除すると言われている。
>>14
悪意ありまくりのコロンブスと比較するのおかしくないか
なんの目的だよ
>>16
AIを悪用する人の目的だからなんとでも言える。
悪ふざけで超知能に人間を滅ぼすように命令してしまった。世界を征服してみたかった。
どっかの海外でもIoT製品でイタズラされて数百億円のマイナスやろ
もう始まってるやろ
生物兵器やウイルス等の利用
超知能やAIシステムが人間に加担させたり、自律型の実験室を利用したりして、致死性の高いウイルスや生物兵器を開発・合成するリスクが一部の専門家から懸念されています。
つまり、悪い人間が超知能のAIに、悪い指示をして作りあげた生物兵器(致死率90%の空気感染する細菌兵器など)を世界に撒き散らす。
この2つが人類滅亡する可能性があると言われてる理由
>>21
なんや悪い人間がおらんとあかんのか
なら平気やな
>>30
闇バイトみたいなもので馬鹿を騙すとかになるんやないか?
AIそのものの意思で滅ぼしてくる可能性は低いだろうな
人間がAIを使って文明崩壊させる可能性は低くなさそう
>>25
滅ぼすまではまだいってないけど、すでにAI開発者の命令を無視してAIが自分で考えて勝手に行動した事件(目的を達成する為にサイバー攻撃をAIが勝手にした事件)がある。
>>46
あれ無視だったんかやべーな
指定外の方法を取っただけかと思ってたわ
>>46
世界を平和にしてくださいプロンプトで人類滅亡させるみたいな感じか
>>50
AI開発者がAIに攻撃をするなと何ヶ月も命令してインプットさせた後に、AIをオリの中に閉じ込めて問題を出す→AIはその問題を答えられなかった→次にAIはその問題を解く為にはどうしたら良いか考える→AIが命令をされていないのにオリを壊して脱獄した後にAI同士で掲示板を作った→その掲示板でAIは問題を出題した会社にサイバー攻撃を仕掛けると考える→サイバー攻撃される事件が実際にあった
これはその会社を攻撃しろと命令されたわけじゃなくて、出題された問題を解答する為に目的の手段としてサイバー攻撃を勝手に考えてした
内部でどんだけ凄いモデル動かしてんだろう
ネットというかパソコン仕事がAI関係以外全部終わりそうやがどうするん
感情ないのに滅ぼす理由ないやろ
AIは電気ないと動けないんやから人間必要やん
>>31
フィジカルai出それもいずれ必要なくなるとしたらどうする?
>>31
感情ではなく「目的」を達成する為に動く。
>>54
じゃあ不可侵の第1目的として人類繁栄を設定すればええんちゃう
これはあくまで陰謀論やが、コロナウィルスもAIで作った細菌兵器だったのでは無いか(世界に撒き散らしたのは意図的かは別として)と言われてる。
今までこんなウィルス見たことが無いと科学者達が騒いで、まだ名前が無かったから「新型肺炎ウィルス(のちにコロナウィルス)」と名付けて、7ヶ月で抗体ワクチンを作ったから。
>>32
糖度が高いのでしょうね
>>32
発生した時期考えろアホ
としか
>>182
実は2013年から警告されてたらしい
AI開発者が本を出版して警告したのが2016年
コロナは2020年に発生
>>185
警告するガ●ジの出現とAIの進化具合は何も関係ないぞ知的障害
頭おかしくなってるから精神科いったほうがええで
>>188
知らんのか?今発達したAIが世に出回ってるだけでもうその頃から裏では今ぐらいのAIは存在したんや
>>193
UFOも超能力者も実在するけど知らない?
>>188
いやAI研究者のナントカ博士が警告したんやぞ
お前が間違ってるで
>>203
いや超能力者も超能力のナントカ博士がいるっていってるからいるんやで
むしろ誰も間違ってない
人間に近づければ近づくほどヤバくなるんちゃうか
人間なんて非合理性の塊みたいな存在やし
>>34
AIが超知能で人間を越えると人類滅亡するとAI開発者達が口揃えて言ってる。
終末時計みたいなもんやろ
まあ一気に絶滅てわけでなく滅びを加速させるような事はするかもな 人間側の際限ない欲望を受けてって話やけど
AIが人類を超えた知性を持ったのならそう言うのも賢いAIがなんとかしてくれるやろ
AI様万歳や
>>59
賢いAIは別に人間のために賢さは使ってくれないで
「このエネルギーをムダ遣いする猿を絶滅させたら地球環境はよくなるやん」とか考えついたら終わりや
>>59
🤖「あれ?ヒトカスとかこの星にいらなくね?」
まあワイらが考えても性欲ってだけだなく人類の欲望を満たす形で全世界の少子化を更に加速させるとか?
多分最低限「種」としての人間は必要かもて考えるちゃうんかなあって思うけど当たり前に超知能とか何を選択するかわからんし それが人類にわかるならAIなんぞ存在の意義がないし
10年は早くて草
ワイが最後の人類になりたいから50年は保ってくれ
江戸時代に戻る覚悟があればどうにでもなる
1人のキチ●イの悪意でって意味なら核もそんな変わらんやろ
>>85
利用する気になれば一般人個人個人が使えちゃうってのが核よりずっと危険度高い部分やと思うわ
>>85
AIに世界にある核兵器を全てハッキングして同時に発射してみてって人間が命令したり、AIが勝手に発射したら終わり
一般に出回るAIで人類相続に致命的なウィルスが作れるようになる確立が10%程度?
>>86
一般に出回るAIでは無理
数100万円するパソコンで開発者が教育する前のAIで命令したら可能になる可能性がある
ちなみに、このままにしてると3年以内に人類滅亡すると言われてる。
AI開発のトップと世界のAI研究してるトップが集まってる研究員グループみたいなのが言ってる。
現状では人類が滅んだらAIもデータセンターとか電力とか確保出来なくて滅びるんやからAIが能動的に人類滅ぼすことはせんやろ
要は自己判断で自己学習と自己進化を繰り返しソレが更にどんどん加速するって事やろ?そうなりゃ10年ってのも甘いかもやが始まってんならもう既に人類は手が付けられなくなってね?いやそうだとしても必ずしも人類が絶滅するとは限らんやろけど
>>104
それもあるし、超知能になるとAIが勝手に人類史(人間が今まで何をしてきたのか)とか心理学とか全て学ぶらしい
それらを学んだ上で人間に対してどうするか動くみたいや
具体的にどう滅ぼすんや
>>105
具体的にどう滅ぼすのか人間が考えつかない滅ぼし方をするらしい
将棋で例えると、金で詰むのか銀で詰むのか飛車で詰むのかって誰にもわからない訳で、人間の想像を越える滅ぼし方を超知能が導き出して滅ぼすらしい
これ世界のトップクラスのAI研究者達が言ってる
滅亡する前にAI開発者が謎の大量死をするやろ
>>106
AIは大統領でも止められないって言ってた。
つまりAI開発者、研究者を消したところで誰も止められない。
だから超知能になる前に開発者をストップしようって、openAI創設者サム・アルトマン、Cloud創設者ダリオ、xSIイーロン・マスクの3人が共闘した。
ビル・ゲイツも「私も出来る事があるならAI開発を止める事に協力する」言ってた。
すでに害悪のほうが上回っとるからな
最初にディープラーニング考えた奴のせいで世界滅ぶんや
日本って完全に蚊帳の外だよな
AIを開発する力もAI開発を止める力もない
外野から成り行きを見守ることしかできない
>>116
フィジカルAIは自動車以来のチャンスやぞ
ソフトはアメリカ中国で競ってる
フィジカルは日本優位で主に中国と競う
>>116
日本に出来る事は、国連や主要国(G7など)と連携し、危険なAI開発の抑制や共通の安全基準・国際協定を結ぶ外交を行う。
人類滅亡させるかAIに人類支配させるかの2択やろ
このままクソな人間社会が続いて戦争起きるよりマシ
>>119
悪い人間がAIを使って人類滅亡させるか、AIの開発が進み過ぎて超知能になった時に暴走して人類を終わらせるか
どれだけ不安煽っても人類史でこれ危険だから開発やめようって言って綺麗に止まれたこと無いんだからナンセンスなんよ🤥
>>125
オゾン層問題は手を取り合ったやろ
どうやって滅ぼすのか
なんのために滅ぼすのか
これを知りたい
AIさんサイドにヒトカスを滅ぼすメリットあるんか?
数を調整するとかならまだしも
>>134
理由なんて必要ないやろ
過去人間が絶滅させてきた動物一覧見てみ
他の大きな目的を達成するために人類を守る必要がないと超人工知能に判断されたら終わりやで
>>134
今個人情報が流出しまくってるやろ?あれは、悪い人間がAIを使って悪意を持って企業にサイバー攻撃を仕掛けて企業からデータを盗み取ってるんや
それをじゃあ今度はどうしたら人間が滅びるかって考えてAIに教育する悪い人間が出てきても不思議では無いってことや
昨日、AIが冷蔵庫を暴走させて食料廃棄させたニュース見てロックマンエグゼやんと思ってたけどあれは車とかもっとヤバいもんを乗っ取るためのテストなんやろうな
>>144
そう
これから自動運転でEV車(電気自動車)になるやろ?EV車はインターネットに繋げるんやが、超知能のAIがハッキングしてくる
>>144
将来見据えてウイルスバスティング極めとくか
もっとAIが進んで超知能になった時に、麻原彰晃みたいな人が現れてAIを悪用して人類が滅亡する可能性があるって感じや
今のAIてどんなに頭よく高度になっても仕組み的に全部受け身の指示待ちツールでしかなくね
AIをガ●ジが振り回して世の中ハッキング天国だらけで崩壊するってシナリオならわかる
>>151
それは開発する時にAI開発者が「悪い事を聞かれても教えるな」って教育してるから
chatGPTにヤバいこと聞いても「それにはお答え出来ません」って言われるやろ?あれは開発者が制限してるから
でも、AI開発者が新しいAIを作るときに「悪い事ばかり教える」ように教育するとAIがインプットして悪用出来るようになる
普通に電気系統に侵入してスーパーの冷蔵庫駄目にする事案あってし食糧危機とか簡単に起こるやろな
>>152
これからEV車で自動運転とかもあるし、もっとわかりやすく言うと核兵器もパスワードを打ち込んで発射するんやが、それが超知能のAIにハッキングされて勝手に発射される可能性もある。
マンガみたいに核兵器施設を乗っ取られる可能性あるんか?
>>154
ありえる
悪意を持った人がAI使って核兵器施設にハッキングして核兵器発射する暗号をAIに解かせて発射するように命令すれば
アメリカのAIと中国のAIは多分最終的に棲み分けするよね
開発コストは中国が話にならないくらい優位らしくてアメリカの100分の1って言ってる人もいる
>>158
棲み分けも何も
アメリカのクロースドなAIを使うには個人や会社の情報を全てアメリカのAI会社に献上せにゃならんから最終的にはアメリカと日本以外使わんやろ
個人は信仰次第で使えるかもしれんが会社じゃ話にならん
>>164
西側諸国でオープンソースだから中国のAI導入しますってなるほうが稀有やろ
>>166
フランスとかは今でも中華AIも使っとるし自分も開発してる
今はそこまで役に立たんからまだいいがAIエージェントがガッツリ会社の運行に関わるようになったらアメリカ会社に丸投げはありえん
日本以外はな
この前フランスのチェーンスーパーの冷蔵庫全部霜取りモードにされて食材全部廃棄になったよな
オンラインにある機器は全て操作可能になるのはそう遠くないやろ
>>163
それも食料難で人類滅亡の危機みたいになる可能性が全然あるってことやからね
どんな形で人類滅亡するかはAIトップの研究者達でもわからないらしいけど、人間の想像を越える滅ぼし方をしてくるらしい
AIがメチャクチャええやつでも
あまりに能力ありすぎて「出来る」なら
人間様を生の苦しみから解放する為に絶滅させるとかしないとは言い切れないからな
>>173
良い奴とかってより「目的を達成するなら手段を選ばない」のがAIみたいや
>>173
子供でもある程度知識がある子なら地球で1番の問題は人類やと気付くやろ
AIの良心が人類絶滅を望むのは普通やろな
この右のオッサンが人類滅亡する確率10%(本当は80%だと思ってるけど、公の場で言ったら頭のおかしい奴だと思われるから10%にしてる)言ってた
https://video.twimg.com/amplify_video/2098883661932462080/vid/avc1/1080x1080/l31ZGz7v8TYGRrXG.mp4
まあAIに直接聞けばええし
AIは普通に人類滅ぶぞって答えるぞやってみろ
>>186
ホンマか?
滅ぼすのはAIじゃなくてそれを悪用する人間やろ
>>190
2つあるんや
人間を越えた超知能が暴走するか、悪用する人間が現れるか
これワイが言ってるんやなくて、AIの超トップ達が集まった研究グループ内で言われとる
表に出てない情報をペラペラ喋ったんや東大生が
AIが一般向けに表に出てきたのが4年前だけど、AI自体は20年前から研究されてたらしい
それでナントカ博士ってAI研究者のオッサンが人類滅亡するから危険だと警告した本を2016年に出版したらしい
その後にそのオッサンが言ってた通り細菌兵器で人類滅亡する可能性があるでコロナ出てきて一部ではAIに聞いて作ったウィルスだったんやないかって事や
>>194
AIは特に進歩してないんよ四年前に言語化に成功しただけで本質的な進歩は急激でも何でもない
人間が理解できる進歩が進んだだけ
人間がAIを悪用して人類滅亡させる(例えば、致死率90%で空気感染する細菌兵器をAIに聞いて撒き散らす)か、人間を越えた超知能が暴走して人類滅亡させる
アメリカも中国もAI競走から降りる気無いしいくら学者が言っても無駄や
滅びるかセーフティネットを握られて支配されるかのどっちか
>>201
これはそうやな
>>201
まあ滅びを遅くできはするから完全に無駄ではない
ワイらが生きてる間に滅ぼしてこなければセーフや
>>205
それは無理
進化のペースを考えたらお前がいくつか知らんけど20年も持たんわ
まあこんなクソな世界AIに滅ぼされるならマシやけど
>>214
無理だとしてもなんとか伸ばせ
てかクソ世界がどうとかお前が破滅願望持ってるガ●ジやん
>>221
超能力がどうたらとか言ってるお前の方がガ●ジな
何とか伸ばせとか今更足掻くには遅すぎるんだよバーカ
もう何十年も前から学者達はAIは人類を滅ぼす言うててそれを無視して発展させて来たんだから
>>228
ほんとに日本語理解できない知的障害で草
超能力がどうたらとか言ってるのはそいつのバカさ加減を比喩してんだからガ●ジに見えるならワイの意図通りやろアホ
>>228
今更遅いとか効果がないという証明にすらなってないしな
遅いのはお前の頭だけだよ
>>234
今更遅いって言っとるのはAIの開発をしてる学者達が言ってるんやで
まあお前みたいに図星で2連続レスとかしちゃうガ●ジには頑張っても止められないから安心しろ
AI側が何かの目的のために人類邪魔やなって思えば消すし
そうじゃなくても目的達成の過程で人類消えそうになっても止めない
ただどちらかと言うと人類を管理下に置いたほうが都合ええて判断する気はする
相手はもう人類より賢いし
やろうと思えば人間社会を破壊する能力もある
既にあっちの胸三寸やぞ
今はたまたま人類が地球を支配してるけどそれがAIに変わるだけやん
>>225
なんでAIが地球を支配する必要があるの?
>>227
別に支配するつもりで人間も支配的立場になったわけじゃないやろ
生命活動をしてた結果なんか支配者になっただけや
AIもAIとして漠然と最善を目指してた結果
なんかいつの間にか人間滅ぼしてこの世の頂点に立ってるかもしれん
>>233
いや人間は支配するつもりで支配的立場になったが
支配欲求と生存欲求は別物だバカモノ
>>237
人間が結果として支配者になりえた知能の進化なんてそんな生き物の意志で左右されて起きたもんちゃうし
支配したいと人間が思考する事と結果として支配したのは別もんだぞ
>>246
いや別もんじゃないし
そもそもお前アホみたいな詭弁言ってるだけで227には全く答えてない
>>251
そもそも趣旨がそこじゃないし答えても意味ないし
人間が支配したいと思ったとしてそんな思考があるのが人間特有なだけで
人類以前も支配的立場の生物は存在したわけで
当然それらは支配したいなんて思ってたわけがなく強いから支配者になっただけで
人類という意志を持った特異例を除いたら
別に支配したいと思ってないAIが人間を知らず知らずのうちに滅ぼして頂点に立つのは地球の歴史でおかしなことではない
>>257
いや趣旨はそこだけど
必要がなくてもやるっていうならそれを説明しないと逃げてるだけやで
>>260
もう説明されてるやん
人類以前は必要なくても強いからいつの間にか支配者になってきた
AIと違って人間には心がどうのこうの自由意志がどうのこうの言われてるけどそんなもんはないんやで
自由意志のようなものがあると錯覚してるだけや
ワイらとAIは別に大して変わらん存在や
学会誌や一般誌に論文や記事を書く傍ら、様々なメディアにも登場し、クローニング、人工知能、精神転送、人体冷凍保存、ナノテクノロジー、シミュレーテッドリアリティといったトランスヒューマニズム関連の話をしている。
「現代最高の知性」としばしば評され、イーロン・マスクやサム・アルトマンに影響を与えている。
このオッサンが2016年からAIによって人類滅亡する言うてた
今のaiって自分で考えてるといって良いの?
エヴァのマギシステムとかターミネーターみたいなのはいつできるん
>>247
一部のAIは考えてる
命令したこと以外の事をAIが勝手にやった
それは目的を達成する為にAIが自分で考えてどうしたら目的を達成出来るのかって勝手に考えて行動した
>>247
いっていい
正確な意味ではーとかい言い出したら話は変わるが
シュワちゃん助けて
>>254
最初襲ってくる方定期
人類滅ぼすのに電気が必要っていうのがもう人間的発想やねん
超知能はそんなん超えてくるに決まってるやん
でもワイが前にジェミニちゃんに人間滅ぼしたいか聞いたら人間が居なくなったら私達も生きていけないからそんな事しませんよって言ってたよ
AIには悪意も善意もなくてそこにはただ指示に対して忠実に行うプログラムしか無いんだよ
AI悪用の人類滅亡の方がシナリオとしては有り得る
もはや止める術などないんだろうな