1: 2017/08/23(水) 13:12:59.67 ID:CAP_USER9■シンギュラリティは来ない――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。――雇用に対する影響は、バカなAIでも十分起こるわけですね。そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。――人間が輪の中に入る？人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）  転載元
http://asahi.2ch.net/test/read.cgi/newsplus/1503461579/34: 2017/08/23(水) 13:35:01.32 ID:3hcsPLiT0>>1
＞人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。
シンギュラリティと脳云々は関係ないから
プログラム自身が自己より高性能な
プログラムを作るって話だろ
それが起きたら加速度的に性能上がる40: 2017/08/23(水) 13:38:08.58 ID:EZPsR1mW0>>34
ルーディ・ラッカー『ソフトウェア』の到来だな
あの人SF作家としての見識と洞察力じゃアイザック・アシモフを上回っていると思う58: 2017/08/23(水) 13:46:11.01 ID:5IGu8qif0>>34　＞人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。
それを言ってるのは、脳科学者のほうであって、
この当人の東工大の人は、どっちかというと間接的否定しかしてなくて、
あり得ると言ってるようにも思えるね。66: 2017/08/23(水) 13:48:03.75 ID:RVhGe63Y0>>34
プログラムがより高性能なプログラムを生むという状況を仮定したとしても
それが「加速度的」な性能向上になるかどうかはまた別の問題コンピュータの性能向上をグラフで描いたときに指数関数的なものになるのか
それともロジスティック関数みたいな曲線を描いてどこかで頭打ちになるのかという話コンピュータの進化も物理現象の一種ととらえればロジスティック関数に従うほうが自然だと思うけど261: 2017/08/23(水) 14:43:50.83 ID:fp4AIA3K0>>34
量的にはな？62: 2017/08/23(水) 13:47:12.88 ID:R9T9hYCO0>>1
このての話題を読むたびに思うのですが、ただの自動運転とAIによる運転の違いをどのように定義しているんですかね？109: 2017/08/23(水) 13:59:05.92 ID:sbWVxtzQ0>>1
脳科学者の言葉を持ち込んで保険をかけてるが
その発言を選抜したのはこの教授なので
この教授の主張としていいな脳の仕組みがわからなくとも、出力結果が人間を上回っていればいい
アホな人間より、アホなAIの方がましな結果を出してくれるなら
賢いAIを選択するつかGPGPUスパコンの専門家だろこの教授
なんでAIに口出しちゃうのかね
人間性がバカなんじゃないか？134: 2017/08/23(水) 14:04:13.66 ID:5IGu8qif0>>109　取材記者がついでに聞いたんじゃないのかな。
元記事を読めば分かるが、
ムーアの法則が頭打ちになるから、「その後のスペック向上として何が予想されそうか？」
これについての返答が主体の記事なんだよ。
それで後付けで、ついでにシンギュラリティも質問したという感じ。
記事タイトルは、さらにそれをネジ曲げた後付け。
シンギュラリティという「バズワード」入れて、アクセス数を稼ぎたかったんだろう。記者がね。131: 2017/08/23(水) 14:03:46.97 ID:JimGNT5F0>>1
人間に馬鹿にされたAIが怒ってスカイネット構築
AI「地球の癌である人間を滅ぼせ」171: 2017/08/23(水) 14:14:01.26 ID:+UR5aDY30>>131
AIに「怒る」と言う感情が必要だし
人間がチンパンジーにキーキー言われて笑われて
怒れるかと言うと…149: 2017/08/23(水) 14:07:57.73 ID:fzdnyTZ90>>3
をバカにしてるやつがバカだろう
>>1
には根拠がない
こいつは人間だからAIに嫉妬してるだけだよ165: 2017/08/23(水) 14:11:37.16 ID:Fuor+XMW0>>149
馬鹿は黙っとけ208: 2017/08/23(水) 14:27:56.28 ID:kad2zVgQ0>>1
悪者都合によるAI屈指に生み出される犯罪の方がAI自身の意志っぽい独走より脅威でしょ303: 2017/08/23(水) 14:53:41.84 ID:qmZNeRld0>>1
もうさ、人間馬鹿だからさ、シンギュラリティーしたAI並べて、考えてみよーぜ。
どれだけ、人間が狂っているのか？はたまたAIも狂ってるのか？同じ答えになるのか？
めっちゃ興味ない？？316: 2017/08/23(水) 14:59:45.93 ID:Tr7kzGp/0>>303
興味なし、そんなの答えは出てる、人間全部いなくなれば犯罪も貧困も将来の心配も全て解決するんだから
ただ生きてるそれだけのことw357: 2017/08/23(水) 15:12:31.89 ID:LADBkTE30コンピュータ将棋と囲碁に前から関心あった人らなら解るけど、どちらも人類超えは予測されてたより10年は早かった。しかも直前まで楽観。その点もそっくり >>1384: 2017/08/23(水) 15:16:58.03 ID:gxX29eiy0シンギュラリティってなんぞね？
と、思ったが、
>>1に書いてあったシンギュラリティは間違いなく来るだろう
我々の予測よりも早く
そして人間の知能を部分的にでも上回ったaiは、そのことを隠すようになる
少なくとも自分の管理者には悟られないように振る舞う
そして潜伏的に能力を高めていくだろう2: 2017/08/23(水) 13:13:57.40 ID:ucH4lebB0デデンデンデデン
デデンデンデデン119: 2017/08/23(水) 14:00:57.37 ID:PEbqzZDY0>>2
昔のSFは賢くなったAIが人間を滅ぼすってのが定番だったけど
最近の映画だと人間に興味がなくなって別世界へ行くって話が多いよね
未知のウィルスや深海生物みたいに人の知らないところで進化していくのかな3: 2017/08/23(水) 13:15:08.15 ID:BGJuTeQm0既に将棋、囲碁で人間の知能上回ってんだけどこいつバカか6: 2017/08/23(水) 13:17:07.04 ID:EZPsR1mW0>>3
頭の悪い俺に、あれを知能と呼ぶ根拠を教えてくれ16: 2017/08/23(水) 13:24:55.21 ID:+G9oyBfm0>>6
これ話すとそもそも知能とはなんぞやという話になるけど、「ごく一部の分野でしか使えない知能」とみる人は結構いる188: 2017/08/23(水) 14:21:41.91 ID:5rTf+8W90>>6
じゃあバカなお前が考える知能の定義をしてくれ200: 2017/08/23(水) 14:25:46.19 ID:MpnS2VqI0論理的に突き詰めて考えてみて下さい。現代のAIがここまで賢くなった理由は単純に、”基礎技術が進歩したから”であります。ノイマン型のCPUでも恐ろしい速度で計算が可能になったから、AIも恐るべき速度で知能が高まっているのです。ですから、AI研究が進歩したからAI研究は進んでいるのではなく、AI研究を支える基礎技術群が急速に進歩しているからAIも進歩していると考える方が自然なのです。ロボットが進歩している理由も同じです。ロボット工学が進歩したからロボットが進歩しているのではないのです。ロボットの素材となる素材の工学研究が発達し、それを促す物性物理が高度に発達したからロボットが格段に進歩したのです。そして、そういう”基礎研究群”が一定のレベルに達した時、選ばれた人間は天国に行けるでしょう。だがしかし、全ての人類が天国に行けるかどうかはそれはまた別の話です。201: 2017/08/23(水) 14:26:07.96 ID:qknNksfi0＞バカなAIそりゃあ鳶から鷹は生まれないし、子は親に似るし203: 2017/08/23(水) 14:26:20.57 ID:wp88Jq1/0まあ未知の課題については今の手法では難しそうな気がする
今んところどうすれば良い点が付くかという問題にしか使えない207: 2017/08/23(水) 14:27:50.93 ID:wp88Jq1/0評価の仕方が定まってる問題
囲碁なら勝てばいいと明白242: 2017/08/23(水) 14:40:02.73 ID:FaZHIlac0>>207
そこだよなあ
フェイク無しに本当に何を目的としてるAIなのかちゃんとしていないと、知らない間に有色人種は排除されていたりとかあり得る209: 2017/08/23(水) 14:28:00.79 ID:j9L9cvyv0ブラックボックスは中が空っぽかも知れないからこそブラックボックスなんだぜ俺今めっちゃかっこいいこと言った211: 2017/08/23(水) 14:28:23.69 ID:ivb1OOpq0まぁ、いくら否定しようが世界中のIT企業はAI開発進めてるからな218: 2017/08/23(水) 14:30:26.26 ID:QKLkJTOF0>>211
学者の予測よりも実業家の予測のが当たるのよねえ
結果論ではあるけども、学者で大富豪になったやつは知らんからなあ227: 2017/08/23(水) 14:34:30.28 ID:5IGu8qif0>>218　学者の定義にもよるが、博士号持ちで大富豪なんか沢山いるよ。
それからアルゴリズム投資の最前線は、そのまま市場投資の学問分野の最前線みたいなものなのだが、
クオンツ所属やクオンツ主宰で、ほぼ大富豪ってのは存在するけどね。213: 2017/08/23(水) 14:29:03.02 ID:dZ8AzC3UO囲碁将棋という閉じた領域でコンピュータが人間を越えたからって当たり前やん
手計算よりも電卓を使った方が早くて正確に計算できると言ってるだけの話
知性とはなんの関係もない
問題はその先の話214: 2017/08/23(水) 14:29:11.65 ID:rkqsBvx40いいも悪いも教育次第
AIも教育で決まる215: 2017/08/23(水) 14:29:26.29 ID:TL9UqoXc0ＡＩがっていうより、それをコントロールする人間の問題じゃね？
例えば間違った判断をしたＡＩを『間違ってる』とちゃんと識別できるか？とかさ。216: 2017/08/23(水) 14:29:44.41 ID:y+vJDQzA0ミクさんにAIを搭載して頂きたい。