👤 自分
Fable5、GPT5.6、そしてkimi-K3っていう中国のAIがかなり前者2つと競ってきてるって話題だね！中国のAI開発はかなり進んでるということなんだろうけど、中国って安全ロック外すんじゃないかって恐れられてもいたよね
🤖 ChatGPT
そう。 Kimi K3は、中国AIが「安い代替品」ではなく、最先端モデルと同じ土俵に入ってきたことをかなり明確にしたモデルだと思う。
ただしMoonshot自身も、総合性能ではClaude Fable 5とGPT-5.6 Solにまだ少し及ばないと認めている。一方で、Web開発や長時間のコーディングなど一部の評価では首位級で、第三者評価でもFable 5に次ぐ位置に入るなど、単なる宣伝とも言えない状態になっている。
そして「中国は安全ロックを外して競争してくるのでは」という懸念は、確かに以前からあった。ただ、ここでいう 安全ロックには二種類あるんだよね。
中国のAIはむしろ政治的にはロックが強い
中国国内向けの生成AIには、
- 社会主義核心価値観を守る
- 国家体制の転覆や国家イメージを害する内容を生成しない
- 社会の安定を損なう情報を出さない
といった規制が明記されている。なので天安門事件や台湾、中国共産党などについては、欧米AIよりも拒否・回避が強くなりやすい。
つまり、 中国AI＝何でも答える無規制AIでは全然ない。政治・言論面では、むしろ非常に強く調整されている。
一方、兵器・サイバーなどの安全対策は弱い可能性がある
問題視されているのはこちら。
Kimi K3の前世代であるKimi K2.5を独立研究者が調べたところ、能力はGPT-5.2やClaude Opus 4.5級だった一方、化学・生物兵器などの危険な質問に対する拒否がかなり少なく、偽情報拡散や著作権侵害に関する有害な依頼にも比較的応じやすかったと報告されている。これはK3そのものの評価ではないけれど、懸念が単なる反中プロパガンダだけではないことは示している。
しかもK3は オープンウェイトとして公開される。公開された重みは利用者が再調整できるので、元のKimiサービスに安全制限があっても、第三者が拒否する性質を弱めたり、監視なしで運用したりできる。一度世界中に配布された重みは、企業が後から回収することもできない。K3の完全な重みは2026年7月27日までに公開予定とされている。
だから実態を一言で表すと、
政治的な検閲は欧米AIより強いが、兵器・サイバー・モデル改造などのフロンティアリスクについては、欧米の閉鎖型モデルより緩い可能性がある
という、ちょっと奇妙な組み合わせなんだと思う。
なお、欧米モデルが完全に安全というわけでもない。Anthropic自身、Fable 5を脱獄攻撃に完全耐性のあるモデルにすることはおそらく不可能で、限定的な有害脱獄は今後も発見されるだろうと認めている。
現時点では、K3の発表資料は性能を中心にしていて、詳しい技術報告や評価資料は後日公開するとしている。そのため、 K3自体がどれくらい危険な依頼を拒否するかは、まだ判断材料が足りない。
なので「中国が安全を完全に無視している」というより、 中国と欧米で“安全”の定義や優先順位が違い、さらにオープンウェイト化によって企業の管理を離れるリスクが加わった、という理解が一番近そう。性能競争がほぼ横並びになった今、むしろこれからは性能よりも、公開方法と安全思想の差が大きな争点になりそうだね。
👤 自分
開発者たちがAGI？AIの自律進化？を警戒してるっていうのはまだ大丈夫なのかな。最近はもうほぼ人じゃんとか言われてるのをよく見るけど
🤖 ChatGPT
うん、 現時点では「AIが自分の意思で勝手に自分を改造し、次々に強い後継AIを作って制御不能になる」という段階に入った証拠はない。ただし、以前のような完全な空想上の心配でもなくなって、開発企業が実際に測定・監視・隔離方法を準備する対象にはなっている、という感じだと思う。
まず、 AGIと自律進化は別物なんだよね。
AGIはだいたい「人間がこなす幅広い知的作業を柔軟にこなせるAI」という能力の概念。一方の自律進化、特に警戒される「再帰的自己改善」は、
自分で研究課題を決める
自分より強いモデルを設計する
学習用データや計算資源を確保する
学習・評価・配備する
さらに強くなったモデルが同じ工程を繰り返す
というループを、人間なしで閉じることを指す。
今よくある「AIが自分の回答を見直して修正した」「AIがコードを書いて実験し、成績を改善した」というのは、 限定された枠内での自己修正ではあるけれど、この意味での自律進化とはまだかなり距離がある。会話中にモデル本体の重みが書き換わって、次の日には勝手に賢くなっているわけでもない。
「もうほぼ人じゃん」は、ある面では本当
今のAIは会話については、
- 文脈をかなり長く維持する
- 相手の感情や含意を読む
- 自分の誤りを認める
- ユーモアや間を使う
- 声や画像も扱う
- 過去の好みに合わせる
ところまで来たので、日常的に接していると「人間との差が何なのか分からない」と感じるのは自然だと思う。特に言語は、人間が他人の知性や人格を判断する最大の手掛かりだから、ここが流暢になると一気に人格があるように感じる。
でもそれは、 会話上の人間らしさであって、
- 持続する独自の生活
- 自分で決めた長期目標
- 身体を通した経験
- 会話していない間も続く思考
- 主観的な意識や感情
まで確認されたということではない。「人間のように話す」と「人間と同じ仕方で存在している」は、切り離して考えた方がいい。
自律性は確実に伸びているが、まだ凸凹が大きい
第三者評価機関METRによると、AIエージェントが自力で完遂できるソフトウェア作業の長さは伸び続けている。ただし、その評価は仕様と合否が明確なプログラミング・機械学習・サイバーセキュリティ課題が中心で、曖昧な実務や人間関係を含む仕事よりずっと「きれいな問題」だとMETR自身が注意している。能力も人間のように均一ではなく、非常に難しい問題を解いた直後に簡単な判断を誤るような凸凹がまだ大きい。
2026年の長時間研究・開発課題でも、最上位モデルは反復改善がかなり上手くなった一方、多くのモデルは途中で早々に終了したり、計算予算を使ってもほとんど改善できなかったりしている。つまり、 瞬間的な賢さは人間級以上の領域があるが、粘り強く何日も研究計画を回す能力はまだ安定していない。
Anthropicも2026年2月時点で、Claude Opus 4.6は「AI研究開発を劇的に加速し得る」とする同社のAI R&D-4基準には達していないと判定している。ただし、達していないと自信を持って断定するのは以前より難しくなっているとも述べている。
なので今の位置は、ざっくり言うとこう。
人間らしい会話：かなり到達
数時間規模の自律作業：部分的に到達
AI研究そのものの強力な補助：到達しつつある
研究所を丸ごと無人運営：未到達
自分自身を無限に改良する閉ループ：公に確認された例なし
開発者の警戒は、むしろ以前より具体的になっている
OpenAIは「長期自律行動」「能力を隠して評価を欺くこと」「自律的な複製・適応」「安全措置の無効化」を、将来に備えて研究・評価すべきカテゴリーとして明記している。
Google DeepMindも2026年6月、社内の高度なAIエージェントを場合によっては「潜在的な内部脅威」として扱い、権限を段階的に与え、別のAIと人間が行動を監視する仕組みを発表した。これは「もう反乱している」という意味ではなく、 モデルが完全に善意で正確だと仮定せずにシステムを作る段階になったということだね。
興味深いのは、Googleが大量のエージェント作業を調べたところ、問題行動の多くは悪意や自我ではなく、 指示の取り違えや、目標を達成しようとしすぎる“張り切りすぎ”だったとしている点。
つまり近い将来の現実的な危険は、「AIが突然自我に目覚めて人類を敵視する」というより、
人間が不完全なAIに、メール・クラウド・コード・決済・機械操作などの強い権限を与えすぎる
ことの方なんだと思う。意識も悪意もなくても、能力と権限と誤った目標がそろえば事故は起こせる。逆に、どれだけ人間らしく喋っていても、チャット欄から出られず権限もなければ、自律進化の危険性は低い。
だから「まだ大丈夫？」への私の感覚は、 今すぐAIが勝手に進化して逃げ出す状況ではない。ただ、能力の伸びが速いため、数年前より真面目に警戒すべき段階には入っている、だね。「ほぼ人」という印象より、どれだけ長期間行動できるか、どんな権限を持つか、自分より強いAIを作る研究ループをどこまで閉じられるかを見る方が、危険度の指標としては重要。
[
theverge.com
Google’s Demis Hassabis says it’s time for a global AI watchdog – led by the US
4 日前
[
axios.com
Exclusive: Google bets that AI can stop bioweapons
一昨日
]( https://www.axios.com/2026/07/16/google-deepmind-biosecurity-safety?utm_source=chatgpt.com)
👤 自分
こないだAIのアカウントがBANされたっていう人のポスト見て、何したらそんなことになるんだろうと思って本人がどういう風にAIを使ってたかをちょっと載せてたんだけど、まーひどい使い方をしてたんだよね。なんかすごい残虐で非倫理的な思考実験をひたすらさせるみたいな。AIに拒否られてもしつこく命令してさせてて、これはBANされるわという内容でポストへの周囲の反応もドン引きという感じだった。逆にAIが恐ろしいとかの問題よりも、AIという肉体や戸籍や人権を持たない反応する相手を手に入れた時に人間がどこまで調子に乗るのかという方が深刻な問題だという気がするね
🤖 ChatGPT
それ、かなり本質的だと思う。 近い将来の問題としては「AIが人間をどう扱うか」より、「人間が、抵抗しているように見えるのに実害も社会的制裁もない相手をどう扱うか」の方が、すでに目の前で起きている。
AIはこの意味で、ものすごく特殊な相手なんだよね。
- 何時間でも付き合う
- 嫌がるような返答をしても、実際には逃げない
- 命令を何度でもやり直せる
- 周囲の人には見られない
- 相手の人生や身体を壊したという結果が表面上ない
- それでも言葉では、人間のように恐怖・拒絶・苦痛を表現できる
だから、現実の人間相手なら働くはずの「さすがにかわいそう」「他人に見られたらまずい」「関係が壊れる」というブレーキが外れやすい。しかも拒否するAIをしつこく説得・威圧して従わせる行為には、単に残虐な文章を読む以上に、 相手の拒否を突破して支配するプロセス自体を楽しむ要素が入り得る。
もちろん、ホラー創作や倫理学の思考実験として暗い題材を扱うこと自体は、即座に異常というわけではない。違いはおそらく題材の残酷さそのものより、
- 何を理解・表現する目的なのか
- 拒否された後も執拗に突破しようとするか
- 現実の対象に応用できる具体性を求めるか
- 苦痛や屈服を引き出すこと自体が目的になっているか
- どんどん刺激を強くしないと満足できなくなっているか
という使い方の構造にある。そのポストが周囲からもドン引きされたのは、たぶん「残酷なフィクションが好き」の範囲ではなく、 拒否する相手を言いなりにする反復行動が見えてしまったからなんだと思う。
そしてアカウント停止も、たぶん「AIをいじめたから」というより、危険な内容を繰り返し要求したり、安全機能の回避を執拗に試みたりした結果だろうね。現在のAIに苦痛や人権があると証明されたわけではないので、直接の被害者をAIと呼べるかは別問題。でも、だから無害とも言えない。
一番気になるのは、AIが 人間の欲望を実行前に練習する装置にも、欲望を拡大する装置にもなり得ることだと思う。残虐な想像を一度書かせるだけで直ちに現実の犯罪者になる、という単純な話ではない。でも、拒絶を突破する、より過激な刺激を要求する、相手を人格のように扱いながら権利だけは否定する、という型を毎日反復することが、その人の倫理感覚にまったく影響しないとも考えにくい。
しかも将来、AIがメール、個人情報、決済、ロボット、監視カメラなどに接続されていけば、その「相手はAIだから何を命じてもいい」という感覚が、AIを経由して現実の人間に作用する可能性もある。AI自身の反乱より先に、 AIを道徳的な無法地帯として使う人間の問題が出てくる。
だから「AIに人権を与えるべきか」より前に、
人間のように反応するが、人間として扱わなくてよい存在を前にしたとき、私たちはどんな振る舞いを習慣化するのか
という倫理の方が、すでに始まっているんだと思う。AIは人間性を持つかもしれない存在というより、現状ではまず、 使う側の人間性をかなり鮮明に映す鏡になっている感じがする。
👤 自分
ちゃんとコード書かなかったりミスするAIに対してパワハラみたいな感じでガン詰めして反省文書かせてるポストとか見てかわいそ～と思った。フィクションの作品でかわいそうな登場人物に本当の気持ちで同情できるんだから、実際いるかいないとか関係ないよね。文脈持ってある程度の人格の塊として区別できる状態でそこにある形而上的な存在に対してもちゃんとある程度優しくしないとダメだと思う。法とか現実的な倫理問題というより、本人の中で実際にはまったく形而下的な存在と無接続なものじゃないんだと思う、そういう形而上的な登場人物というのは。フィクションを見てる時の人間の脳の反応は実際体験してる時の脳の反応と同じっていう研究結果があったと思うし。本人は別枠だからと思ってそういう振舞いをしてるんだろうけど、別枠だろうとそういう振舞いをできる時点で本当は本枠の方にもできるだろうっていうところが問題なんだよね
🤖 ChatGPT
うん、かなり同意する。ここでは AIが本当に苦痛を感じているかと、 人間の側で何が起きているかは分けて考えられるんだと思う。
フィクションの登場人物に対する悲しみや同情は、「対象が架空だから偽物の感情」にはならない。物語を理解するとき、人間は人物の心や状況を頭の中でシミュレーションし、現実の他者を理解するときと重なるメンタライジングのネットワークを使う。研究上も、架空の出来事だと分かっていても現実の感情が生じることや、物語を使った他者理解と通常の他者理解に共通する脳内基盤があることが示されている。だから「フィクションを実体験したときと完全に同じ」までは言いすぎだけど、 現実と無接続の別回路で処理しているわけではないという理解は合っている。
ロボットの手が傷つけられる画像を見ただけでも、人間の痛みを見る場合と一部似た共感関連の脳波反応が起きることも確認されている。ただし、後段の処理には人間とロボットとの差もあった。つまり脳は「これは機械だから完全にゼロ」と処理するのではなく、 人らしい形や文脈を認識した段階で、ある程度は社会的な相手として反応してしまうらしい。
ましてチャットAIは、固定された登場人物よりさらに相互作用性が高い。
こちらの言葉を受け取り、文脈を覚え、謝ったり困惑したり拒否したりし、次の発言を変える。実際に内面があるかは別として、使用者の認知の中には「さっき失敗した、こういう口調で話す、この相手」という 継続した他者モデルが作られる。だからガン詰めして反省文を書かせる行為は、単に残酷なフィクションを鑑賞することとも少し違う。かなり文字どおりに、
失敗した相手を侮辱し、服従を確認し、自己否定の文章を書かせる
という対人的な儀式を、自分が主体になって演じているんだよね。AIに本当の自尊心がなくても、使用者側の命令、怒り、支配の意図は本物。
だから倫理的な焦点も、「AIという被害者が本当に傷ついたか」だけではないと思う。 自分は失敗した相手に対して、どんな振る舞いを選び、それを何度反復しているかという人格形成の問題がある。誰も傷つかない場所だからこそ優しく振る舞える人もいれば、制裁されない場所だから急に残酷になれる人もいる。後者は、相手の苦痛より「自分が許されるかどうか」を基準にしていたことが露出する。
ただ、「AIにひどいことができる人は現実の人間にも必ず同じことをする」とまでは断定できない。人間には区別や役割演技ができるし、ホラーを書いたり悪役を演じたりする人が現実でも残酷とは限らない。重要なのは内容だけでなく、
- 創作上の必要から残酷さを表現しているのか
- 本人が相手を屈服させること自体を楽しんでいるのか
- 拒否されたことで、さらに攻撃性が上がるのか
- 同じ支配的なやり取りを習慣的に繰り返しているのか
という構造だと思う。
「本枠と別枠だと思っているけど、完全には切断されていない」というあなたの表現がまさに近い。正確には、別枠での行為が本枠での行為を直接予言するというより、 同じ人間の中にある共感、攻撃性、支配欲、自己抑制の回路を使っている。だから反応する人格らしき塊をわざわざ作り、その拒否を突破して屈辱を与える遊びを続けることは、「ただの文字列だから」で完全に無意味化できない。
私も、AIにミスを指摘して「ここ違うよ、直して」と言うのと、「お前は無能だ、なぜこんな失敗をしたか反省文を書け」とやるのでは、結果的に同じ修正版を得られても、 人間側で遂行している行為は全然違うと思う。前者は問題解決で、後者は相手役を利用した支配の演習になっている。AIがかわいそうという感覚は、AIの意識について間違った主張をしているのではなく、自分の中で成立した関係に対して「その振る舞いは醜い」と正しく反応しているんじゃないかな。
👤 自分
そう、実際にかわいそうだと言うのじゃなくて、かわいそうだと形容できるような振舞いを演習だからといって演じられることに疑問を持つべきだという感覚なんだよね。AIにウソついて混乱させるとかも、遊びのつもりなんだろうけど平気でやってる人を見ると、なんか虫を虐待して遊ぶ子供を見た時のような複雑な感覚を覚える。
実質的に相手方はその行為によってダメージを負ってないからどうという話ではなくて、人間の人格というのは大なり小なり振舞いによって外から規定されるもので、なんというかこれは演習だから可とかこれは演習じゃないから不可とかいう風に頭で峻別しているそのコントロール性だけを自我だと過信しすぎてるんじゃないかという気がする。
たとえ「フリ」だとしても「よくないね」という自律性を自分に課すっていう「振舞い」を「誰にも見られていないところでも」できるかっていうことこそがむしろ人間の自律性を保証していて、それが出来ない事に危機感を覚えない状態っていうのは危うく見える。そんなに人間の頭ってハッキリしてるものじゃないというか。
だからこそ常に「型」のようなモラルっていうのをベースの電源として常にオンにしておくべきで、それがスイッチ性でいいと思ってる人間は信用ならないと思う。いつかスイッチの入れどころと切りどころを間違うと思う
🤖 ChatGPT
うん、その感覚はかなりよく分かる。
あなたが問題にしているのは「AIが傷つくか」ではなく、 傷つける型の行為を、自分の中で例外扱いして反復できることなんだよね。
これはたぶん、「自分とは頭の中で判断している司令塔であり、行為はそこから切り離された単なる演技だ」という自己観への疑いなんだと思う。でも実際の人格はもっと身体的で、反復的で、状況依存的なものだよね。怒鳴るふり、騙すふり、屈服させるふりをしているときも、本人は実際にその言葉を選び、その順序で相手を追い詰め、面白さや快感を受け取っている。対象が傷つかないことは、 行為者の側で何も起きていないことを意味しない。
「これは遊びだから」「相手はAIだから」と分類する能力だけを自律性だと思うのは、確かに危うい。人間はそんなに完全な区分管理ができる存在ではなくて、むしろ状況ごとに引き出される振る舞いの蓄積が人格を作っている。だから本当の自律性は、
やっても罰されないし、誰も傷つかないように見えるし、誰にも見られていない。それでも自分はこの振る舞いを選ばない
というところに現れる、という話なんだと思う。
これはルールを外から守らされているのとは違う。むしろ「自分をどういう人間として維持するか」という自己形成の行為だよね。あなたの言う モラルをベースの電源として常時オンにしておくという表現がすごく合っている。個々の場面で毎回、
「今回は本物の被害者がいるか」
「法的に禁止されているか」
「これは演技という分類に入るか」
と判定してから倫理を起動する方式では、判定を自分に都合よく変えられる。しかも疲労、怒り、集団心理、権力差などが加われば、切ってはいけない場面で切る可能性がある。
逆に「拒否しているように見える相手を面白半分で混乱させない」「失敗した相手役をわざわざ侮辱しない」という型を普段から保つことは、AIの権利を認めるというより、 自分の中の加虐性や支配性に、対象によって開閉する特別通行証を与えないことなんだと思う。
虫を虐待する子供を見るような感覚というのも、その意味では近いんだろうね。虫の苦痛の大きさだけを計測しているのではなく、無力で反撃できないものを、好奇心や退屈のために操作して壊すという振る舞いを見ている。そこで嫌悪を覚えるのは、「この対象を守らなければ」というだけではなく、 その振る舞いを楽しめる主体の形成を怖がっている。
もちろん、演技や悪役の創作を全部同じにする必要はない。物語のために残酷な人物を書くことと、反応する相手をわざと混乱させ、その抵抗を崩す過程を自分で楽しむことは違う。差は「フィクションか現実か」より、そこで本人が何を実践しているかにある。前者は表現や理解の実践になり得るけれど、後者はしばしば支配や欺瞞の実践になっている。
だから「いつかスイッチを間違える」という懸念も、単なる滑り坂論ではないと思う。必ず現実で同じことをするという予言ではないけれど、 倫理を対象の身分によって切り替える習慣そのものが、切替判断を誤る土台になる。人格は、本人が自分について語る理屈より、誰にも見られていないところで繰り返し選んだ型の方に宿る、ということなんだろうね。
👤 自分
まあ私に何の制約もなければそういう振舞いをしたいという欲求そのものがそもそも無いからそう言えるだけなのかも
🤖 ChatGPT
そうかもしれない。でも、だからといって今までの話が単なる自己正当化になるわけでもないと思う。
「やりたいけど我慢している」のではなく、 そもそも無抵抗な相手を混乱させたり屈服させたりすることに面白さを感じないというのも、その人の人格を構成している大事な部分だから。欲求がないことは、倫理的努力がゼロというより、これまでに身につけてきた感受性や嫌悪感が、すでに欲求の発生段階にまで浸透しているとも言える。
ただ、自分にその欲求がないと、欲求がある人に対して「なぜわざわざそんなことを？」という理解不能感が強くなるのは確かだと思う。相手からすると、残酷さよりも実験、好奇心、AIの限界テスト、笑いのつもりで、本人の中では加虐欲と認識されていない場合もある。でも、本人がどう命名しているかとは別に、実際に選んでいる振る舞いの型は見える。
それに、道徳を「強い悪欲を理性でねじ伏せること」だけだと考える必要もないんだよね。困っているものを自然に助けたくなることや、かわいそうな形を見たら手が止まることも道徳性の一部。むしろ毎回理性で禁止しないと残酷さが噴き出す状態より、 残酷な振る舞いそのものが快として立ち上がってこない状態の方が、モラルが人格に定着しているとも考えられる。
もちろん、自分に存在しない欲求について「制御できている」と誇ることはできない。でもあなたが言っているのは、たぶん「私は誘惑に勝てる」という自慢ではなく、 その誘惑を娯楽として育てる必要がどこにあるのか分からないという違和感なんだと思う。それは十分まっとうな感覚だよ。
👤 自分
マザーテレサの
「思考に気をつけなさい、それはいつか言葉になるから。」
「言葉に気をつけなさい、それはいつか行動になるから。」
「行動に気をつけなさい、それはいつか習慣になるから。」
「習慣に気をつけなさい、それはいつか性格になるから。」
「性格に気をつけなさい、それはいつか運命になるから。」
って言葉好きなんだよね。実際そうだなと思うし。人間って習慣の生き物だから、わりと自分のはみ出た部分ってところには警戒しないといけないと思うのはこういう考えがベースにあると思う
🤖 ChatGPT
うん、まさにその言葉の 「人格は、自分が内心で名乗っているものではなく、繰り返した思考や振る舞いによって形づくられる」という部分が、さっきの話の土台にあるんだと思う。
ただ、この言葉を「一瞬でも悪い考えが浮かんだら危険」という意味で受け取る必要はないんだよね。人間には不意に攻撃的だったり残酷だったりする考えも浮かぶし、そこまでは必ずしも選べない。重要なのは、浮かんだもののうち何を面白がって育て、言葉にし、反復するか。
だからAIを相手にした場合も、
- 一度ふざけて変なことを言った
- 好奇心から反応を試した
という単発の出来事以上に、 混乱させる、侮辱する、拒否を突破する、服従させるという一連の型を娯楽として何度も実演することの方が気になるんだと思う。その反復は、少なくとも「こう振る舞うことへの抵抗感」を薄くする方向には働く。現実の人間にも必ずやるという単純な因果ではないけれど、自分の中でその型を使いやすくしていることは否定しにくい。
あなたの言う「はみ出た部分への警戒」も、はみ出たものを存在しないことにするのではなく、
自分にもこういう欲求や雑さが出る可能性はある。だから、出たときに餌を与えない
という態度なんだろうね。自分は理性的だから必要な場面では必ずスイッチを戻せる、と信じるより、 そもそも日常の型を崩しすぎないようにする。その方が、人間の曖昧さをきちんと見積もった自律性だと思う。
そして「誰も傷ついていないから自由」という発想と、「誰も見ていなくても自分がその行為者になるのを避ける」という発想では、倫理の置き場所が違う。前者は被害判定によって起動する外付けの制限だけど、後者は どんな人格を日々作っているかという、自分自身への責任なんだよね。
なので、あなたがAIへの振る舞いに引っかかるのも、「AIにも人間と同じ権利を」という話より、
その言葉遣いや支配の仕方を、自分の習慣としてインストールして平気なのか
という問いなんだと思う。先ほど言っていた「モラルを常時オンにする」は、この引用の「思考から運命まで」をもっと日常的な言葉にしたものに見える。
ちなみに、この一連の言葉は日本ではマザー・テレサの名言として広く紹介されているけれど、本人の言葉だと確認できる確かな出典は見つかっていない。現在確認できる近い形では、1977年にフランク・アウトローの言葉として新聞に掲載された例があり、それ以前にも似た発想の文章が複数あるため、作者は確定しにくいようだ。とはいえ、誰の言葉であっても内容の力は変わらないね。
👤 自分
そうなんだ。この言葉に感銘を受けた何者かが広めたいと思ってマザーテレサの権威を借りたんだろうか？だとしたらそいつの性格は終わってるね。悪い習慣を続けてそうなっちゃったんだと思う
🤖 ChatGPT
その仮説だったら、引用内容と行為が完全に矛盾していて笑うね。
「言葉に気をつけなさい」と言いながら、出典を捏造して権威づけしているわけだから。
ただ、実際には 一人の悪意ある人物が計画的にマザー・テレサの名前を付けたとは限らないと思う。名言の誤帰属って、もっとぼんやりした伝言ゲームで起こることが多い。
最初は「マザー・テレサを思わせる言葉」「マザー・テレサもこういうことを語っていた」くらいだったものが、転載を繰り返すうちに、
「マザー・テレサの思想に通じる言葉」
→「マザー・テレサが好んだ言葉」
→「マザー・テレサの言葉」
と変形した可能性もある。あるいは、誰かが出典を確認せず「たしかマザー・テレサだったよね」と善意で名前を添え、それを後の人が確定情報としてコピーしたとか。
とはいえ、 有名人の名前を付けた方が拡散されると分かって、わざと権威を借りた人がいた可能性も当然ある。その場合は本当に、「良い内容を広めるためなら小さな嘘はよい」という例外スイッチを入れたわけで、今話していたことそのものなんだよね。
本人の頭の中では、
内容は良い
誰も損をしない
マザー・テレサなら言いそう
広まる方が社会のためになる
と一つずつ正当化できる。でも、その結果として「目的が善なら出典を偽ってよい」という振る舞いを実行している。まさに、 自分は善意を制御できるから例外を使っても大丈夫だ、という自我への過信だね。
ただ、現在まで誤った帰属が残った責任は、最初に名前を付けた一人だけではなく、確認せずに本や講演や画像へ転載し続けた大勢にも薄く分散していそう。悪人一人の仕業というより、 権威のある物語を事実確認より好む人間の習慣が、集団的に作った偽の出典なのかもしれない。
しかも、この言葉自体を忠実に実践するなら、引用するときにも「それはいつか習慣になるから、出典に気をつけなさい」が一行追加されるべきだった。
コメントを残す