AIと社会学 ループ・マシン・ラーニングという学習方法

社会学

t f B! P L
イヤッド・ラーワン(Iyad Rahwan)は、社会的なループのマシン・ラーニングという言葉を最初に使用した人物である。
彼はサイエンスで出版されたばかりの作品を説明していた。
オンラインテストを通して一般人をポーリングして、人々が自家用車を作ることを望む様々な決定について知る方法を見つけた。
現代の哲学者が「アイデアは、社会の優先順位や価値観を理解することで、社会が倫理的に考える方法で行動するように機械を鍛えることができたと言った。
私たちはまた、人々が人工知能(AI)と対話し、質問をしたり行動を観察して倫理をテストするシステムを作るかもしれない。

社会的なループは、人間のループの機械学習のスケールアップされたバージョンで、メディアラボのKarthik Dinakar氏が取り組んでいて、AI研究の重要な部分として浮上している。

通常、マシンは大量のデータを使用するAIエンジニアによって「訓練された」ものである。
エンジニアは、どのデータが使用されているか、どのように重み付けされているか、使用されている学習アルゴリズムのタイプ、さまざまなパラメータを調整して、正確かつ効率的なモデルを作成し、問題の1つは、AI、つまり機械学習は依然として非常に難しいために、機械を訓練した人は通常ドメイン専門家ではないということである。
訓練は機械学習の専門家によって行われ、訓練を受けた後の完成モデルはしばしば専門家によってテストされる。
重大な問題は、データ内の偏りやエラーが、それらの偏りや誤差を反映するモデルを作成することである。

ヒューマン・イン・ザループ・マシン・ラーニングとは、ドメイン専門家がトレーニングを行うシステムを作成しようとした作業、または少なくとも専門家とのやりとりを通して学ぶマシンを作成することによってトレーニングに参加する作業である。
ヒューマン・イン・ザ・ループ計算の核心は、データだけでなく人間のデータからモデルを構築するという考え方である。
Karthikは、このプロセスを「レンズ効果」と呼び、ドメイン専門家の人間の視点やレンズを抽出し、トレーニング時間中にデータと抽出されたレンズの両方から学習するアルゴリズムに適合させます。
これは、確率論的プログラミングと機械学習の民主化のためにのツールを作ることに意味があると考えている。

最近の哲学者、聖職者、AIの技術専門家との会合では、機械が審査員の仕事を引き継ぐ可能性について議論した。
私たちは、機械のAIがデータを含む事柄について非常に正確な評価を行うことができるという証拠を持っていて、裁判官が保釈金額や仮釈放などの決定を人間よりもはるかに正確に行うことができると仮定することはかなり合理的である。
加えて、専門家の人間が非常に良い設定の保釈や仮釈放を適切に認めていないことを示す調査がある。
仮釈放の前または後に仮釈放の審理を受けるかどうかは、結果に大きな影響を与える。

議論では、私たちの中には、判決をある種の決定、保釈と仮釈放の例として、機械で置き換えるという考え方が提案された。
哲学者といくつかの聖職者は、功利主義の観点からは正しいと感じるかもしれないが、社会にとっては裁判官が人工知能を持つロボットではなく人間であることが重要であると説明した。それは「正しい」答えを得ることよりも重要であった。
人間と機会の違いは、あらゆる機械学習システムの受け入れにとって重要であって、この観点に対処することは不可欠であろう。

この懸念に対処できる方法は2つある。
1つの方法は、人間の裁判官の能力を助けたり拡張したりするために機械を使用することである。
これはうまくいく可能性がある。
一方、医学や飛行機などのいくつかの分野での経験は、人間がマシンを誤って却下する可能性があるという証拠を示していて、場合によっては人間が機械を酷使するのを防ぐ意味がある。
また、人間が満足して結果を信頼し、マシンがシステムを実行できるようにすることも可能である。

第2の方法は、マシンの信頼性が、おそらく多種多様な価値観のかなりの部分を占めていると人々が感じたという意味で、公共の社会が訓練されることである。
これは前例ではない。多くの点で理想的な政府は、政府が十分な情報を得て従事したことを感じて、政府が権力を行使し、それを代表する。
公共によって訓練され、透明性が十分になって、人々がAIを信頼することができるようになることによって、公共の支持と代理を獲得することができる機械を設計する方法があるかもしれない。
コードが一連のルールのような伝統的なソフトウェアとは異なって、機械学習モデルは脳に似ている。
ビットを見て、それが何をするのかを正確に理解することは不可能である。
人間がマシンの価値と行動をテストし、監査する方法が必要である。

この機械の作る情報を受け取って、その後価値を得る方法を見つけ出すことができれば、この司法上の問題のもう一つの側面を解決するかもしれない。
どのようにコンピュータが情報を作って、監査され、制御されるのかは、正義のために命を救う意思決定に人工知能を使うに更に技術を発展させる必要があることが最も重要な分野の1つである。
これは、機械学習のツールを誰にでも利用できるようにする必要がある。

人気の投稿

このエントリーをはてなブックマークに追加

プロフィール

こんにちは!ゆうすけと申します。このブログでは、さまざまなジャンルやテーマについての情報やアイデアを共有しています。私自身、幅広い興味を持っており、食事、旅行、技術、エンターテイメント、ライフスタイルなど、幅広い分野についての情報を発信しています。日々の生活で気になることや、新しい発見、役立つヒントなど、あらゆる角度から情報を提供しています。読者の皆さんがインスパイアを受け、新しいアイデアを見つける手助けができれば嬉しいです。どのジャンルも一度に探求する楽しさを感じており、このブログを通じてその楽しさを共有できればと考えています。お楽しみに!

人気記事

ブログ アーカイブ

テキストの遊園地、vimの全オプション

このブログを検索

人気ブログランキングへ


QooQ