フランケンアルゴリズムアルゴリズムが不正になりました

画像クレジット:

iStock

Franken-Algorithms: 不正なアルゴリズム

人工知能の発展に伴い、アルゴリズムは人間が予想するよりも速く進化しています。

著者：
著者名
クォンタムラン・フォーサイト
2023 年 4 月 12 日

機械学習 (ML) アルゴリズムが高度になるにつれて、大規模なデータセットのパターンを独自に学習して適応できるようになります。「自律学習」と呼ばれるこのプロセスにより、アルゴリズムが独自のコードまたは決定を下すためのルールを生成する可能性があります。これに関する問題は、アルゴリズムによって生成されたコードが人間にとって理解が困難または不可能である可能性があり、バイアスを特定するのが困難になることです.

フランケンアルゴリズムのコンテキスト

フランケンアルゴリズムとは、アルゴリズム (コンピューターがデータを処理し、コマンドに応答する際に従う規則) を指し、非常に複雑になり、人間が解読できなくなったものです。この用語は、マッドサイエンティストのフランケンシュタイン博士によって作成された「怪物」についてのメアリーシェリーの SF に賛成です。アルゴリズムとコードはビッグテクノロジーの構成要素であり、Facebook と Google が現在のように影響力のある企業になることを可能にしましたが、テクノロジーについては人間が知らないことがまだまだたくさんあります。

プログラマーがコードを作成してソフトウェアで実行すると、コンピューターは ML によってパターンを理解し、予測できるようになります。ビッグテックは、アルゴリズムは人間の感情や予測不可能性に影響されないため客観的であると主張していますが、これらのアルゴリズムは進化して独自のルールを作成し、悲惨な結果につながる可能性があります. これらのアルゴリズムによって生成されるコードは複雑で不透明なことが多く、研究者や実務家がアルゴリズムの決定を解釈したり、アルゴリズムの意思決定プロセスに存在する可能性のあるバイアスを特定したりすることは困難です。この障害は、これらのアルゴリズムに依存して意思決定を行う企業にとって重大な課題を引き起こす可能性があります。これらの意思決定の背後にある理由を理解または説明できない可能性があるからです。

破壊的な影響

フランケンアルゴリズムが悪用されると、生死に関わる問題になる可能性があります。例としては、2018 年にアリゾナ州で自動運転車が自転車に乗っていた女性をはねて死亡させた事故が挙げられます。車のアルゴリズムは、彼女を人間として正しく識別できませんでした。専門家は、事故の根本原因を突き止めました。車のプログラムが不適切だったのでしょうか。また、アルゴリズムが複雑になりすぎたのでしょうか。ただし、プログラマーが同意できるのは、ソフトウェア企業の監視システム、つまり倫理規定が必要だということです。

ただし、この倫理規定は、データとアルゴリズムを販売するビジネスに携わっており、規制や透明性を要求する余裕がないため、ビッグテックからの反発があります. さらに、大企業の従業員に懸念を引き起こしている最近の開発は、自動ドローンなどの軍事技術にアルゴリズムを組み込むために Google が米国国防総省と提携するなど、軍内でのアルゴリズムの使用の増加です。このアプリケーションは、一部の従業員の辞職につながり、専門家は、アルゴリズムがまだ予測不可能すぎて殺人機械として使用できないという懸念を表明しています。

もう XNUMX つの懸念は、Franken-Algorithms が訓練されたデータセットのためにバイアスを永続させ、さらには増幅する可能性があることです。このプロセスは、差別、不平等、不法逮捕など、さまざまな社会問題につながる可能性があります。これらのリスクの高まりにより、多くのテクノロジー企業は、アルゴリズムの開発、使用、および監視方法について透明性を確保するために、倫理的な AI ガイドラインを公開し始めています。

フランケンアルゴリズムのより広い意味

フランケンアルゴリズムの潜在的な影響には、次のようなものがあります。

人間の監督なしで意思決定を行い、行動を起こすことができる自律システムの開発により、説明責任と安全性に関する懸念が高まっています。ただし、このようなアルゴリズムは、ほとんどの業界で人間の労働を自動化できるソフトウェアとロボット工学の開発コストを削減する可能性があります。
アルゴリズムが軍事技術を自動化し、自律型の武器や車両をサポートする方法について、より精査します。
政府や業界のリーダーに対して、倫理と規制のアルゴリズムコードを実装するよう求める圧力が高まっています。
低所得コミュニティやマイノリティ集団など、特定の人口統計グループに過度に影響を与えるフランケンアルゴリズム。
フランケンアルゴリズムは、雇用や融資の決定などの意思決定における差別と偏見を永続させ、増幅させる可能性があります。
これらのアルゴリズムは、特に金融機関のシステムの弱点を監視し、悪用するためにサイバー犯罪者によって使用されています。
悪意のあるアルゴリズムを使用して世論に影響を与え、選挙を左右する可能性のある方法で、ジェネレーティブ AI システムを使用してマーケティングキャンペーンを自動化する政治家。