「Artificial Intelligence（人工知能）, 2020」
読書案内
メラニー・ミッチェル
Picador Paper, November 2020, USD 14.39
今年に入ってからメディアでＡＩ（人工知能）に関連するさまざまな事件等が報道されている。ＡＩを使用したウイルスの作成、情報漏洩、詐欺など多岐にわたる。それに伴い、ＡＩによる事件やリスクについて議論が行われている。ＡＩによる事件の事例、リスクや対応策、またそれにともなうビジネスの活用等を解説するコンサルタントまで登場している。
本書の著者はニューヨークの高校で数学の教師をしたあと、アメリカサンタフェ研究所において類推論、複雑なシステム、遺伝的アルゴリズム、細胞オートマトンの分野の研究を行なってきた。現在ポートランド州立大学でも研究を行なっている科学者である。早くからＡＩに関心を持ち、近年は勤務している研究所で「ＡＩにおける意味の障壁の衝突について」などのワークショップを開催してきた。
彼女はＡＩ研究への強い支持を表明しながら、ハッキングに対するＡＩの脆弱性と社会的偏見を継承する能力について懸念を常に表明している。
本書で一貫しているテーマは、人の思考に関する指針である。
科学者として著者は、時にＡＩの専門的な説明を行う際、わかりやすい図や独特のユーモア、逸話を多用し読者をＡＩの世界に引き込んでいく。また本書の随所で見られる参考文献の紹介はＡＩへのさらなる学習の助けになるであろう。
ＡＩを説明するうえで多くの専門用語の使用は避けられないが、それらについても著者による明確な定義がされている。さらに科学者としての著者のＡＩに関する説明と共に、ＡＩに対する哲学的、心理学的な視点での著者独特のＡＩに対する理解や知性、時には常識も見られる。
本書の最終章はＡＩの将来についての著者の考えが示されている。本書は、ＡＩ技術の専門家のみならず、科学技術に関心のある一般の読者にとっても理解が可能なものである。
本書を読み終えて、ＡＩについて、そして改めて考えてみた。人間ではなく、ＡＩが最終決定を行う社会はどのような社会であろうか。
資本主義社会においてＡＩの使用は、企業が成長し続け、社会における競争上の優位性を維持するために不可欠である。またその技術は、急速な技術進歩により、私たちの日常に不可欠になりつつある。しかしこの技術は社会のさまざまな分野に影響を与え始めている。
ＡＩによる差別強化・増幅の危険性
「犯罪ナビ」による人種差別や、ＡＩによる採用ツールやＡＩをもとにした信用スコアリングによる性差別などはそのほんの一例である。２０１６年、マイクロソフトのＡＩチャットボットが一般公開されたが、そのリリース直後、チャットボットが人種差別的な暴言を連発し、サービスは直ちに閉鎖された。
２０１９年、ゴールドマン・サックスは、同社の運営するＡＩがユーザーの信用スコアを計算する際に女性に対して不当に低いスコアを与え、サービスにジェンダーギャップが生じていることが判明した。
２０２０年、英国の試験規制当局が使用する予測採点システムが、労働者階級やマイノリティの学生に不利なスコアを付与していたことが判明し、同機関に対する強い批判がされた。その他ＡＩをもとにした日常的なツールは、私たちの社会において人種、宗教、富、または健康状態に基づく差別を躊躇なく剥き出しにしている。
さらに近年問題とされているのは、ＡＩがその差別を強化し、増幅することである。ユネスコ２０２０年の調査結果は、人種的イデオロギーがＡＩに与える影響を明確に示している。
調査結果は、特に女性やＬＧＢＴＱＩの人々に対するジェンダーバイアスがビッグデータを通じてＡＩソフトウェアに送信され、差別につながることを示した。利益志向の資本主義社会では、これらの問題に対処するための抜本的な措置は講じられず、その後も同様の問題が世界各国で再発し続けた。
一方、いわゆる「社会主義国」でもＡＩは権威主義的な技術として、ガバナンスの代替モデルを促進するために影響力を拡大した。 例えば、中国は機械学習の力を利用して人口の監視を強化し、ウイグル人や他の少数民族を取り締まり、支配してきた。
このようにＡＩの技術は、人々を差別化し、分類する状況を作り出す危険性がある。またＡＩチャットボットが日常的にオンラインで人種差別的なレトリックを吐きだす現実の中で、私たちはどのような対応を取るべきであろうか。
労働者管理と監督
私たちは、ＡＩにリンクされた機械が自動的に人間の命を奪う社会に直面している。同時に、ＡＩによって生み出されたデジタル植民地主義と監視資本主義は、人間の尊厳を脅かすレベルに達している。このような階級差別を生み出す技術には、適切な規制が必要である。
社会主義社会では、ＡＩによる決定は最終決定ではない。社会主義社会の技術的基盤は、ジェンダー平等、性的自由、自然との望ましい関係のための主要な考慮事項として生命の尊厳を持って、労働者階級の民主的エンパワーメントの管理と監督の下になければならない。
（ＹＮ）
THE YOUTH FRONT（青年戦線）
・購読料 1部400円+郵送料
・申込先 新時代社 東京都渋谷区初台1-50-4-103
TEL 03-3372-9401/FAX 03-3372-9402
振替口座 ００２９０─６─６４４３０ 青年戦線代と明記してください。
