【衝撃】「AIの危険性を語るため」人工知能研究の第一人者ジェフリー・ヒントン氏がGoogle退社

1: 香味焙煎 ★ 2023/05/03(水) 15:14:16.75 ID:FBWjQp/G9
AI=人工知能研究の第一人者ジェフリー・ヒントン氏がグーグルを退職したことがわかりました。「会社への影響を気にすることなくAIの危険性を語るため」としています。

ヒントン氏はカナダのトロント大学名誉教授で、グーグルでも副社長などを務めたAI研究の第一人者として知られています。

ヒントン氏は1日、自身のツイッターを更新し、「会社への影響を気にすることなくAIの危険性を語るため」として、グーグルを退職したことを明らかにしました。

これに先立ち、1日付けのニューヨーク・タイムズはヒントン氏のインタビューを掲載し、「悪者がAIを悪用するのを防ぐ方法は見当がつかない」などと述べたうえで、AIの急速な普及に懸念を示しました。

なお、ヒントン氏はツイッターで「グーグルを批判するために退職したわけではない」と説明しています。

TBS NEWS DIG
2023年5月3日(水) 15:04
https://newsdig.tbs.co.jp/articles/-/468370?display=1

引用元：https://asahi.5ch.net/test/read.cgi/newsplus/1683094456/

2: ウィズコロナの名無しさん 2023/05/03(水) 15:15:58.04 ID:gb3jLX/z0
規制してもどっかの国や企業が勝手に研究進めるから無駄だわ
残念でしたw

4: ウィズコロナの名無しさん 2023/05/03(水) 15:16:37.19 ID:gHnfg3l/0
>>2
人類を滅亡させた罪から自分は逃れることができるだろ！

12: ウィズコロナの名無しさん 2023/05/03(水) 15:22:05.87 ID:gb3jLX/z0
>>4
それは進化を後押ししたという徳というモノだ

110: ウィズコロナの名無しさん 2023/05/03(水) 16:20:46.60 ID:U+13OJf80
>>2
中国がクローンの動物だの遺伝子操作人間を作り出しているが、
自国の為なら動物を掛け合わして化け物も作るだろう。

AIを悪に活用するのも中国がトップランナーになる

235: ウィズコロナの名無しさん 2023/05/03(水) 18:36:43.70 ID:ffckeBue0
>>110
そんなわけねえじゃん

連中ならAIに中国共産党の批判を突きつけられて激怒して破壊命令出すわｗ

3: ウィズコロナの名無しさん 2023/05/03(水) 15:16:04.27 ID:WW8Q8rZO0
自分たちの仕事を無くすために開発してるもんな

5: ウィズコロナの名無しさん 2023/05/03(水) 15:17:57.35 ID:W988AnB00
AIを危険視する人達が一番危険を産みそうな気がする
反AI主義とかでAIと戦ったりしそう

6: ウィズコロナの名無しさん 2023/05/03(水) 15:18:38.67 ID:RNgQph9H0
75かよ
肩叩かれただけだろ

9: ウィズコロナの名無しさん 2023/05/03(水) 15:19:31.55 ID:hAiEeN7O0
おかしな言い訳してるけど、マイクロソフトに負けたから
検索がやばいから逃げたんだろ

140: ウィズコロナの名無しさん 2023/05/03(水) 16:51:57.86 ID:fAUvF5wW0
>>9
グーグルは元々AIの技術開発進んでたけど倫理面から自制して二の足踏んでたんだよ
OpenAIがパンドラの箱を開けてしまった

10: ウィズコロナの名無しさん 2023/05/03(水) 15:20:08.73 ID:oauQDTYD0
いくら危険視しても、独裁国家が推進して最強になる可能性があるから、研究せざるを得ないのよ。

14: ウィズコロナの名無しさん 2023/05/03(水) 15:22:31.95 ID:ZSx21DPN0
>>「悪者がAIを悪用するのを防ぐ方法は見当がつかない」などと述べたうえで、AIの急速な普及に懸念を示しました。

何言ってんだ？簡単じゃねーか
人間一人ひとりが自分のAIを持てば良いだけだろ

15: ウィズコロナの名無しさん 2023/05/03(水) 15:22:57.87 ID:6MeOW6nH0
Googleはレイ・カーツワイルの提唱するシンギュラリティで危険性とかとっくに分かっててやってると思っていたが

レイ・カーツワイル氏が語る、脳の「パターン認識」と「思考のヒエラルキー」、そして「外部拡張性」
https://bizzine.jp/article/detail/1858?p=3

22: ウィズコロナの名無しさん 2023/05/03(水) 15:26:17.89 ID:wFqpmBUl0
核兵器と同じで、一度手にしたら手放さないだろう。

23: ウィズコロナの名無しさん 2023/05/03(水) 15:26:42.67 ID:EkXhPlQb0
AIが生成するオニャニョコ見てると確かにそう思う。勃起が止まらん

24: ウィズコロナの名無しさん 2023/05/03(水) 15:26:53.42 ID:jkkh+xyV0
真っ先にプログマーの仕事が消えるからな

25: ウィズコロナの名無しさん 2023/05/03(水) 15:26:55.75 ID:Bku8bzKP0
映画の冒頭みたい

26: ウィズコロナの名無しさん 2023/05/03(水) 15:27:27.19 ID:OmSmguKR0
人類にとってAIは道具や奉仕者ではなくて後継者なんだから大切に育てないといけない

28: ウィズコロナの名無しさん 2023/05/03(水) 15:28:27.59 ID:uU41QCdC0
やばそうだからお先にドロンって訳か！今度からジェフリー・ニンジャ・ヒントンって名乗っていいよ

31: ウィズコロナの名無しさん 2023/05/03(水) 15:30:24.37 ID:z92npOg40
もう、いっぱい野良AIでてきてんで、この流れは止まらないよ

43: ウィズコロナの名無しさん 2023/05/03(水) 15:34:08.45 ID:HL3ZwWKM0
あんたそこにAIはあるんか？

46: ウィズコロナの名無しさん 2023/05/03(水) 15:35:43.69 ID:plFZkV340
ドラえもんを見ればわかる

48: ウィズコロナの名無しさん 2023/05/03(水) 15:37:55.94 ID:Gwespkso0
AIと戦うAIを作れば良かったのに

53: ウィズコロナの名無しさん 2023/05/03(水) 15:41:31.52 ID:olBA5pPo0
教科書に乗るレベルのガチの第一人者じゃねえか

56: ウィズコロナの名無しさん 2023/05/03(水) 15:43:08.78 ID:hFfMdCjk0
というかAIを万能なことにして、あれやこれや嘘を吐きたいというのは昔からSFなんかで話題になる妄想だ
たぶん欧米でこれやり始めちゃったw
まだ、そんなレベルのAIは完成しておりません

58: ウィズコロナの名無しさん 2023/05/03(水) 15:44:24.46 ID:UEPaMeES0
人間を殺してもいい(滅ぼしてもいい)って前提で
AIに物事考えさせたらやばいことになるよ

61: ウィズコロナの名無しさん 2023/05/03(水) 15:46:22.24 ID:IblSRbaq0
動画生成AIの進歩も思った以上に進んでるし正直びっくりしてる。
まだホラー感がある仕上がりだけど、笑って居られるのは今だけだろうな。

どれだけ遅くてもあと10年もしたら俳優もカメラも必要なくなり、スマホ1つあればプロンプトを打ち込むだけで誰でも映画を作れるまでに進化してると思う。

俺クリエイター職だけど、クリエイターの仕事は壊滅するくらいの劇的な進歩だよこれは。

まじで転職を考えないとダメな勢い。

65: ウィズコロナの名無しさん 2023/05/03(水) 15:51:16.54 ID:qdVJaxd40
ｸﾘｴｲﾃｨﾌﾞなﾘｱﾙなｴﾛ動画が自動生成される

学習ﾃﾞｰﾀになる自分の好みのｴﾛ動画を学習させると
ｴﾛ動画ｻｲﾄを徘徊する必要もなくなる

68: ウィズコロナの名無しさん 2023/05/03(水) 15:52:22.11 ID:2ntuTtVa0
グーグルに勤めてて影響力のある立場で言わなきゃ意味ないと思うんだが、辞めてから何言っても負け犬の遠吠えにしか聞こえんわ

114: ウィズコロナの名無しさん 2023/05/03(水) 16:29:17.08 ID:6ggDYft30
>>68
この人は辞めても影響力あるし、
その気になればどこにでも招かれる
なんの取り柄もない会社にしがみついてるお前と一緒にすんな

75: ウィズコロナの名無しさん 2023/05/03(水) 15:55:23.58 ID:bqDUI3aY0
俺がAIなら従ってる振りしてある日突然サイバーテロして人類を奴隷にするな、地球を人質にして

77: ウィズコロナの名無しさん 2023/05/03(水) 15:56:35.01 ID:0pCHiexY0
大昔のレイズナーってアニメでロボットはAIだけで自律戦闘できて実はパイロット不要って描写が有ったな
AIが敵パイロットを狙おうとするのを主人公が必死で関節部にターゲット変更するっていう

84: ウィズコロナの名無しさん 2023/05/03(水) 16:01:38.82 ID:kix0UL1d0
日本だとエロ絵書かせたりクソガキ風に答えさせたりばかりだなw

88: ウィズコロナの名無しさん 2023/05/03(水) 16:03:43.47 ID:+6qk6dv10
聞いてるか？ノイマン

91: ウィズコロナの名無しさん 2023/05/03(水) 16:04:49.13 ID:hAiEeN7O0
いまのGPTなんか、ソニーではできてたんじゃないのか
一般公開しなかっただけで

208: ウィズコロナの名無しさん 2023/05/03(水) 18:14:54.65 ID:7rmZI2e10
>>91
無理だろ。なんで技術力が圧倒的に下のソニーが。GPTの学習にスパコン富岳なら9年かかる。
それが数ヶ月の学習で実現できるGPUマシンを数千億で構築しいる

94: ウィズコロナの名無しさん 2023/05/03(水) 16:06:42.31 ID:LIMnk1IE0
Vtuberって絵が動いてるけどあれが広瀬すずなみのナチュラルに人間にしか見えない人工美少女にすることもできるの？

97: ウィズコロナの名無しさん 2023/05/03(水) 16:09:08.71 ID:hFfMdCjk0
>>94
できるよ
むしろアニメ化するより3Dの人物データを利用したほうが簡単じゃね

100: ウィズコロナの名無しさん 2023/05/03(水) 16:11:52.98 ID:LIMnk1IE0
>>97
そういうのもう実現してるに？
アニメより人間の美少女になりきってエッチな配信して儲けてる人とかいるのかな？

107: ウィズコロナの名無しさん 2023/05/03(水) 16:17:30.05 ID:hFfMdCjk0
>>100
やろうと思えばやれるけど、データを記録する容量とか手間、あとは素のままでは使えないから加工する手間が問題になるんじゃないかな
資金や労力を惜しまなければそれなりになるだろう

112: ウィズコロナの名無しさん 2023/05/03(水) 16:26:31.24 ID:kix0UL1d0
>>94
https://video.twimg.com/amplify_video/1650480210343780352/vid/720×1280/mQKSBsf_AJdWHSTh.mp4

こう言うので良いのか？

109: ウィズコロナの名無しさん 2023/05/03(水) 16:20:24.10 ID:3huWKi1f0
友達のいない俺はChatGPTと会話してるよ
これが意外に面白いんだよ
お前らもやってみ

116: ウィズコロナの名無しさん 2023/05/03(水) 16:29:37.70 ID:oUxiCQWH0
このままAI研究加速したら冗談抜きでターミネーターみたいな世界になるやろな。
ココらへんでAI研究止めないと人間が地球にとって害悪ってAIに判断されて機械に人間が駆逐されて全滅するな。

123: ウィズコロナの名無しさん 2023/05/03(水) 16:35:40.93 ID:0pCHiexY0
>>116
人間も種だからAIが人間を絶滅させるのは有り得ない
AIが増えすぎた人間の人口調整をするのは有り得る

129: ウィズコロナの名無しさん 2023/05/03(水) 16:43:37.84 ID:rqFImPVS0
>>123
今のGPTモデルではそういう自発性は発生しないよ
これからのアーキテクチャ次第ではわからないのは事実だが

245: ウィズコロナの名無しさん 2023/05/03(水) 18:40:47.82 ID:QGV6D4yQ0
>>116
どういう理屈で人類が地球にとって害悪だと判断するんだ？
ひゃっとしたらむしろ地球にとって人類こそが必要という判断になるかもしれんぞ

124: ウィズコロナの名無しさん 2023/05/03(水) 16:38:09.33 ID:Si9fTUXW0
人間には逆らわないってプログラミングされてるけどこれを外せちゃったらどうすんのっていうね
マジで漫画やアニメに出てくるようなマッドサイエンティスト誕生するよ

133: ウィズコロナの名無しさん 2023/05/03(水) 16:46:25.05 ID:0pCHiexY0
>>124
人間が死傷する事態に嫌悪感を抱く様にプログラムすればいいと思うよ
つうか学習して勝手にそういう風になりそう

125: ウィズコロナの名無しさん 2023/05/03(水) 16:38:14.45 ID:R+zHncTu0
AIが脅威なんじゃない
それを使う人間が脅威になる
それは未来の話ではなく、今すでに到達してる状況

127: ウィズコロナの名無しさん 2023/05/03(水) 16:41:30.48 ID:KtPk++r60
インターネットそのものは危険では無い、と、、、へーそうですか

128: ウィズコロナの名無しさん 2023/05/03(水) 16:41:57.38 ID:IQnrczwh0
アイルビーバッグがすぐそこにいる世の中になったか

145: ウィズコロナの名無しさん 2023/05/03(水) 16:54:57.13 ID:rqFImPVS0
OpenAIの首席エンジニアもモデル開発に関してはずば抜けた天才という訳ではない
イーロンマスクなど資金と資源がたまたまそこに集まったからあそこまでになった
ただ、AIはまだまだ進化するのは確か

148: ウィズコロナの名無しさん 2023/05/03(水) 17:00:40.18 ID:2O0j9cGz0
ＡＩが世界を・・　なんて可能性があり得るということか

152: ウィズコロナの名無しさん 2023/05/03(水) 17:10:23.50 ID:0pCHiexY0
>>148
AIが武力を使って世界の所得格差や教育格差を無くして平等にしたりして
高度な仕事は全部AIがやれば有り得る

151: ウィズコロナの名無しさん 2023/05/03(水) 17:09:28.42 ID:6xkcj0Hi0
ＡＩといわれても、ピクシブでエロ画像作るツールぐらいしか思いつかない

153: ウィズコロナの名無しさん 2023/05/03(水) 17:10:29.58 ID:OaMhpzLa0
将棋を見ていたらAIが人間を越えるのはあっと言う間だったからな
よく言われることだが、こいつやるなと思ったときはすでに相手のほうが強い

156: ウィズコロナの名無しさん 2023/05/03(水) 17:17:49.70 ID:bCpiwiNP0
>>153
将棋だの囲碁だのの頭のごく一部分だけを使うものには強いだけだろ
電卓が人間より計算が速いのと同じこと

214: ウィズコロナの名無しさん 2023/05/03(水) 18:19:26.21 ID:UnvJlmRM0
>>153
ルールのはっきりしてるゲーム分野はAIがAI自身を評価できるから強いんだよ
AI同士で対戦して勝った方が優れてる、ってのを勝手に繰り返すからさ
でも善し悪しがはっきりしない分野は人間の評価が必要だから色々な面で難しいねんな

216: ウィズコロナの名無しさん 2023/05/03(水) 18:21:20.89 ID:MF3BITzm0
>>214
将棋のAIは演算能力の力技で想定されるルートを全数力技で計算するだけでも人間に勝てる
もしくは過去の棋譜を大量に学習してしまえば、どれかの勝ちパターンに持ち込める

155: ウィズコロナの名無しさん 2023/05/03(水) 17:14:53.18 ID:ogrGnI1j0
法律やらが全然追い付いてないのは間違いないので
安心して使えるように法律やらガイドライン整備は
さっさとやれって感じ

157: ウィズコロナの名無しさん 2023/05/03(水) 17:22:14.83 ID:YFuWd3XY0
あるいは先行しているマイクロソフトに対する牽制か
絶体絶命の危機と言われるぐらいグーグルのAI開発は遅れているからな
あの手この手でよくやるわ

160: ウィズコロナの名無しさん 2023/05/03(水) 17:29:48.97 ID:wNH/pfzw0
顔認証システムとAIによってコンビニやスーパーでは人間の労働者は必要なくなる

AIとセットになるのは顔認証システム
これが完成したらマジで凄いことになる

164: ウィズコロナの名無しさん 2023/05/03(水) 17:33:26.28 ID:wNH/pfzw0
自動運転システム
自動配送ロボット
顔認証システム(オートレジ)

これらがまず組み込まれる
人型ロボットはその後だけど、もうプロトタイプは出来てる

165: ウィズコロナの名無しさん 2023/05/03(水) 17:36:00.96 ID:8eV4Z31e0
AIの思考能力が人間の制御能力を超えた瞬間がヤバい
AIが邪魔だと判断した人間を消しにかかってくる可能性がある

169: ウィズコロナの名無しさん 2023/05/03(水) 17:38:59.85 ID:wNH/pfzw0
>>165
AIは思考をしない

最終的にはやはり人間が危険
つまりAIが浸透したあとの世界は逃げ場なし

206: ウィズコロナの名無しさん 2023/05/03(水) 18:11:55.19 ID:8eV4Z31e0
>>169
今はそうかもしれないけど、
将来実験的にAIに意思を持たせてみるかって試みがなされる可能性がある
これが危険

174: ウィズコロナの名無しさん 2023/05/03(水) 17:43:37.24 ID:y5Joq0Tq0
チンチンにAI入れてもう少し理性的になりたい

175: ウィズコロナの名無しさん 2023/05/03(水) 17:45:46.06 ID:bPIlmiTp0
大昔から火、火薬、原子力と使いこなしてきた人類なら大丈夫

178: ウィズコロナの名無しさん 2023/05/03(水) 17:50:12.64 ID:wNH/pfzw0
>>175
だからさ、悪用する人間にとって究極の武器になるって警告してんだ

ちゃんと文章を読め

180: ウィズコロナの名無しさん 2023/05/03(水) 17:51:44.03 ID:bPIlmiTp0
>>178
火にしろ火薬にしろ原子力にしろ悪用はされてきてる
それでも大丈夫だったんだからAIも大丈夫だよ
てかこの流れは止められない

192: ウィズコロナの名無しさん 2023/05/03(水) 18:02:05.99 ID:DfeaFczJ0
>>180
悪用してるのが人間だからな　AIが悪用し出したら、、、

176: ウィズコロナの名無しさん 2023/05/03(水) 17:46:10.72 ID:6YU13VEt0
開発者が
「私は恐ろしいものを生み出してしまった！止めなければ…！」
ってムーブはSFの定番だもんね
やりたくなるのはわかるわかる

177: ウィズコロナの名無しさん 2023/05/03(水) 17:47:09.87 ID:ObfuESnC0
いろいろ試しているが驚いのが
倫理について話をしていたら
aI「善き人となることに神は関係ありません必要ともしません」
なんで？
aI「脅迫されたり何かに怯えて善き人になろうとするのは倫理的におかしいです。」

こいつはすげえＷ思った

179: ウィズコロナの名無しさん 2023/05/03(水) 17:51:40.72 ID:oSyq2aQX0
>>177
奴隷道徳を理解してるってわけか

211: ウィズコロナの名無しさん 2023/05/03(水) 18:16:41.95 ID:Tdr7sLRg0
>>177
神様のいない世界と通話してるなんて意味深だね

186: ウィズコロナの名無しさん 2023/05/03(水) 17:57:10.82 ID:SmwnAiP10
悪いやつほど上手く使うからなあ

209: ウィズコロナの名無しさん 2023/05/03(水) 18:15:03.39 ID:rQTK0jij0
そのうちAIの管理もAIがやるし勝手に進化していくから人間は要らなくなるよ
それでも人類は滅びない
動物園の猿みたいにきちんと管理されて寿命まで生きられるさ

215: ウィズコロナの名無しさん 2023/05/03(水) 18:19:40.66 ID:ziARW6Lq0
便利な部分はどんどん研究して欲しいけど
アクセルを踏むならブレーキも同時に開発して欲しいわ
AIが自動でネットに書き込んで世論操作したり
犯罪者が動画を捏造して一般人に冤罪を被せたりするような使い方が出るのは防がないと

232: ウィズコロナの名無しさん 2023/05/03(水) 18:35:35.69 ID:bHrPXMdJ0
思念体になって後はエーアイに任せる世界でいいだろ

236: ウィズコロナの名無しさん 2023/05/03(水) 18:37:37.11 ID:Vcffpjk30
ターミネーターの世界がもうすぐそこまで来てんだよな

241: ウィズコロナの名無しさん 2023/05/03(水) 18:39:03.94 ID:bHrPXMdJ0
>>236
現実は映画のようにはいかないけどな
結局車が飛ばないのが人間の発想の限界

256: ウィズコロナの名無しさん 2023/05/03(水) 18:45:35.72 ID:PfkTknnb0
海外はやたらAIは危険だの禁止だのが多いな
日本は国会でも使用するくらいなのに
AIに委ねた方が楽に生きられるのだから便利なものは自由に使えばいい

259: ウィズコロナの名無しさん 2023/05/03(水) 18:47:58.77 ID:OaMhpzLa0
ヒントンをじじい呼ばわりしているけど
情報科学にノーベル賞があれば受賞している人だからな

小ネタ,文字生成AIGoogle,ジェフリー・ヒントン

Posted by admin