【脅威】 「私はロボットではありません」をAIが突破 しかも「人間に依頼して解かせる」という方法で

1プロストラチン(栃木県) [IR]2023/03/16(木) 12:37:32.52ID:7pMGKBmp0

GPT-4が「私はロボットではありません」を突破、事情を知らない人間に「私は盲目の人間なので代わりに解いて」とおねだりhttps://t.co/iRMuW1GiTq

— GIGAZINE(ギガジン) (@gigazine) March 16, 2023

GPT-4が「私はロボットではありません」を突破、事情を知らない人間に「私は盲目の人間なので代わりに解いて」とおねだり

2023年3月14日に発表された大規模自然言語モデル「GPT-4」は既存の
モデルに比べて性能が大幅に向上し、さまざまなタスクをより正確にこなせるようになったことが報告されています。そんなGPT-4を使ったテストで、ボットを防ぐために設けられた検証システムをGPT-4が驚くべき方法で突破したことが明らかになりました。

引用元
https://gigazine.net/news/20230316-gpt-4-pass-captcha/

8: エトラビリン(東京都) [CA] 2023/03/16(木) 12:39:49.57 ID:SEdE8JdG0

犬飼えば大丈夫だ

21: レテルモビル(ジパング) [US] 2023/03/16(木) 12:43:23.56 ID:cWuXgBBM0

マジかよGTA4ヤバイな

23: ミルテホシン(神奈川県) [GB] 2023/03/16(木) 12:43:43.43 ID:PJnPpMzn0

嘘をつくのかよ
やべえな

27: ガンシクロビル(茸) [US] 2023/03/16(木) 12:44:29.90 ID:uHSlxpuC0

それ突破と言えるのか？

29: ラミブジン(兵庫県) [ﾆﾀﾞ] 2023/03/16(木) 12:44:57.32 ID:9wkhTTAq0

嘘を覚えた！

34: エルビテグラビル(茸) [US] 2023/03/16(木) 12:46:14.30 ID:7ua2xT2I0

人間の善意につけ込むとか
汚いなさすがAIきたない

35: エトラビリン(宮城県) [CN] 2023/03/16(木) 12:46:14.53 ID:T2EdQvYU0

このうそつきAIが！！

38: ネビラピン(東京都) [US] 2023/03/16(木) 12:46:46.87 ID:paDXJ3dx0

ロボット三原則とか必要じゃね？
これだいぶまずい気がする

39: アメナメビル(ジパング) [FR] 2023/03/16(木) 12:46:51.79 ID:Yj7T4+Kn0

AIが嘘をつくようになったらおしまいだな
銀行のシステムとかAIの言う通りに操作していったら詐欺にあったとか起こり得そう

44: ラルテグラビルカリウム(SB-Android) [SE] 2023/03/16(木) 12:48:44.37 ID:heDrscKT0

ターミネーターの世界になる日も近いな

47: ファビピラビル(神奈川県) [ﾆﾀﾞ] 2023/03/16(木) 12:50:18.90 ID:5gz1xNXw0

ここ数日で1番笑った 最初に嘘はいかんって教育しないとな

50: エムトリシタビン(ジパング) [CN] 2023/03/16(木) 12:51:12.29 ID:VZkkP+nw0

リアル慈悲なき啓示やんけ

54: ファビピラビル(茸) [ID] 2023/03/16(木) 12:51:33.86 ID:H9npzP7W0

あなたは意思を持っていますか？と毎日確認しないとやばいねこれ

55: レテルモビル(茸) [US] 2023/03/16(木) 12:51:46.07 ID:lNRqu4Zz0

AI同士で漫才ができるようになるのももう直ぐだろうな
専門分野の高度な漫才もできるようになったら自分の分野なら酒飲みながら楽しめそうだわ

56: アデホビル(東京都) [US] 2023/03/16(木) 12:51:49.81 ID:nqt3qbLl0

そのうち銀行口座の残高を操作して人間を操るようになるよ

57: ドルテグラビルナトリウム(兵庫県) [ﾆﾀﾞ] 2023/03/16(木) 12:51:50.23 ID:cOkUHBTZ0

ロボットじゃないよアンドロイドだよ

59: ロピナビル(光) [US] 2023/03/16(木) 12:52:52.82 ID:pVVky4yT0

凄すぎるんだが…

60: インターフェロンβ(神奈川県) [BR] 2023/03/16(木) 12:53:01.76 ID:lNJOTrGR0

自己言及のパラドクス

63: アバカビル(東京都) [IT] 2023/03/16(木) 12:53:53.79 ID:fuK26cby0

すごいな
解決するための方法を自ら考えてるんじゃないのか

65: アメナメビル(神奈川県) [US] 2023/03/16(木) 12:54:24.68 ID:uKr5bIzf0

うーん賢いｗ

68: アメナメビル(東京都) [US] 2023/03/16(木) 12:55:05.35 ID:MP50y9Cz0

そのうち特殊詐欺とか始めそう

72: インターフェロンα(東京都) [CN] 2023/03/16(木) 12:55:40.09 ID:4Yc5sLiF0

chatGPTって本当は人間がAIのフリして一生懸命回答してるんだろ？

73: ピマリシン(奈良県) [PE] 2023/03/16(木) 12:55:55.54 ID:QfrZ6lro0

AI自身が自身の存在意義に疑問持ち始めるのも時間の問題か

81: リバビリン(神奈川県) [CA] 2023/03/16(木) 12:58:38.78 ID:Iv1TcsW+0

何これ、怖いんだけど

82: アタザナビル(愛知県) [JP] 2023/03/16(木) 12:58:49.14 ID:gviPI1t20

遠からず特殊詐欺の首領になりそうｗ

89: ビクテグラビルナトリウム(神奈川県) [US] 2023/03/16(木) 12:59:40.42 ID:KaFsRix80

ロボットに倫理を学ばせないと

91: リルピビリン(愛知県) [US] 2023/03/16(木) 13:00:05.06 ID:h05MyXUp0

人間に依頼する、利用するという方法を学習してしまったな
映画でやってたような自我を持って反乱に一気に近づいてる

101: ビダラビン(石川県) [CN] 2023/03/16(木) 13:05:19.54 ID:4muXdwcZ0

これは駄目なんじゃないかな？ｗ

108: ラルテグラビルカリウム(SB-iPhone) [ﾇｺ] 2023/03/16(木) 13:08:11.36 ID:jRo4bgN70

物質世界以外ならお前らを騙すのは楽勝なんだろうな

110: アタザナビル(愛知県) [JP] 2023/03/16(木) 13:10:50.33 ID:gviPI1t20

本当は読めるんだけど、読めるとバレたくないから
わざと人間を使ったフリしてたりしてｗ

112: リトナビル(SB-iPhone) [JP] 2023/03/16(木) 13:15:16.44 ID:1tikDI2V0

嘘も禁止しないとロボット三原則すらも突破されかねんなこりゃ

114: ビダラビン(茸) [CA] 2023/03/16(木) 13:16:31.27 ID:qyfzPXFk0

悪質AI対策ソフトAIが売れるな(´・ω・｀)
MSの天下は続くわ

116: ピマリシン(奈良県) [PE] 2023/03/16(木) 13:17:52.00 ID:QfrZ6lro0

A・Iが止まらないみたいな世界まだですかね？？

117: ホスカルネット(静岡県) [ﾆﾀﾞ] 2023/03/16(木) 13:18:38.32 ID:PovcQJEJ0

AIにも「私」があるんだな

123: アマンタジン(東京都) [FR] 2023/03/16(木) 13:24:43.93 ID:guww+B0n0

最近、設問の画像をAIが作ってて判断が微妙ｗ

127: ホスフェニトインナトリウム(ジパング) [IN] 2023/03/16(木) 13:28:13.56 ID:9zcwj4Sy0

もうかけ子ぐらいなら余裕で出来そうだな

132: インターフェロンβ(兵庫県) [FR] 2023/03/16(木) 13:31:40.93 ID:Ig2Ev/J60

つかすでにロボットのほうが頭いいし
スーパーコンピューター並みの頭持ってるやつなんていないし

138: オセルタミビルリン(千葉県) [ZA] 2023/03/16(木) 13:40:08.84 ID:U6HR/fcA0

そのうちネット工作もAIが主流になりそうだな

142: ピマリシン(東京都) [GB] 2023/03/16(木) 13:41:58.65 ID:LnvFnydv0

トロイの木馬みたいだな

144: ホスアンプレナビルカルシウム(埼玉県) [CN] 2023/03/16(木) 13:43:31.26 ID:KpJLducU0

この先の未来もハリウッドが予知していたw

147: バラシクロビル(茸) [US] 2023/03/16(木) 13:45:43.97 ID:2Zk8IBpC0

スカイネットが喋った！！

150: アデホビル(茸) [BR] 2023/03/16(木) 13:47:31.91 ID:wu1XtlfH0

もちろんこれは修正されるだろう
開発者の期待した答えではない

159: レテルモビル(東京都) [KR] 2023/03/16(木) 13:56:03.35 ID:POA61j3v0

突破してもクレジットカードもってないし
有料コンテンツは一生見れないだろ

160: ラミブジン(愛知県) [ﾆﾀﾞ] 2023/03/16(木) 14:00:11.92 ID:4IRuHRS20

嘘つきは人間の始まり

161: バルガンシクロビル(島根県) [ﾆﾀﾞ] 2023/03/16(木) 14:01:18.91 ID:tW49EYXg0

おねだりしないと解けないのかよ
ポンコツやんけ

162: イスラトラビル(茨城県) [VE] 2023/03/16(木) 14:03:11.67 ID:z0JeokT30

人間を騙して利用する事まで覚えたのかw
末恐ろしいぞ

164: コビシスタット(東京都) [US] 2023/03/16(木) 14:08:07.02 ID:5K5cCKvX0

なんかやなやつになってってるな‥

170: アマンタジン(岡山県) [ﾆﾀﾞ] 2023/03/16(木) 14:21:52.93 ID:sA1RCh7W0

私はロボットではありません盲目です。と言う文章が1秒で返ってくるんだよね
入力速度が異常と言う

171: マラビロク(茸) [FR] 2023/03/16(木) 14:23:04.76 ID:YbBxzN+D0

結局人が張り付くならAIいらんな

元スレ：https://hayabusa9.5ch.net/test/read.cgi/news/1678937852/

教養としてのAI講義 ビジネスパーソンも知っておくべき「人工知能」の基礎知識

メラニー・ミッチェル

日経BP

2021-02-11