FC2BBS
AI研究について、倫理の観点での議論 - くろの
2023/11/16 (Thu) 08:32:30
こんにちは。
私はアカデミズムからは遠いところにいる人間で、実際に今学問の現場で何が行われているのかまるで無知です。
その上でおうかがいしたいことがあります。
臓器移植や尊厳死、クローン技術などに関しては、倫理的観点からの議論が昔から行われているかと思います。では、AI研究については、倫理学的にはどのような議論が行われているのでしょうか。
政府や国際機関が、情報としての安全性や知財的（著作権など）観点で議論しているニュースなどは見るのですが…
体毛を外部化して衣服をまとい、爪や牙を外部化して刃物を使うようになった人間が、脳も外部化していけるのか、いっていいのか、個人の思考（嗜好、志向）をパラメータ化してしまえるとして問題はないのか、などが個人的には気になっています。
よろしければご教示いただけますと幸いです。よろしくお願いいたします。
Re: AI研究について、倫理の観点での議論 - φ
2023/11/17 (Fri) 16:16:32
ＡＩは今のところtool と見なされていますが、いずれ主体subjectとして、行為者agentとして、さらには人格personとして市民権を与えられることもありえますね。
この系統の研究は、（ＡＩの価値観を人間の価値観にalign するという意味で）AI Alignment と呼ばれているそうです。
以下の記事などはどうでしょうか（私自身わずかしか追っていませんが）
https://www.lesswrong.com/posts/T4KZ62LJsxDkMf4nF/a-casual-intro-to-ai-doom-and-alignment-1
https://www.lesswrong.com/posts/edAvzMeg9zxMby6Lq/realistic-near-future-scenarios-of-ai-doom-understandable
https://www.lesswrong.com/posts/TC7GhGaKFqTtQH9Aq/formulating-the-ai-doom-argument-for-analytic-philosophers
私がつい先月メモしたものとしては↓
https://blog.goo.ne.jp/3qaiujrrwc87ph/e/b9d64f38e15037d0f6923f466d08bd64
Re: AI研究について、倫理の観点での議論 - くろの
2023/11/19 (Sun) 01:54:02
ありがとうございます。
AIアライメントという言葉すらもまったく知りませんでした。完全には理解できていないと思いますが、ご紹介いただいた文章読ませていただきました。なるほど、危機感を感じている人は一定数いるわけですね。
個人的には最近の世相を見ていて「自分のことを進歩的で頭がいいと信じている人」たちこそが、世界を危険に陥れていくように感じていて、
“ people in a variety of organizations such as OpenAI and DeepMind are researching ever more advanced artificial intelligence. they're not doing this out of malice, or even that much for profit; from what i understand, they're doing it because they believe it's cool and because they think it's genuinely going to improve the world.”のあたりは強く同意しました。
先月書いてくださっていた文章はすでに読ませていただいていました。
“敢えて極端に楽観的に”記されたということでしたが、おっしゃる方向はよくわかりました。
ただ一点、AIがpersonにまでなった場合、「彼」が肉体を持たないことがどのように「彼」の思考に影響するか、というのがわかりません。ご著書『論理パラドクス』の「肉体交換機」の話を思い出しますが、あそこでは見事に人間の本質が肉体側にあるということを示されていたように覚えています。
個人としての肉体を持たないAIは、personになり得るのでしょうか？ なるには何らかの物体的なハードが必要になるのでしょうか？ personの定義の問題な気がしますが、やはりこの部分で、私は今のところAIに楽観的になれません。