Image Credit:Workers that made ChatGPT less harmful ask lawmakers to stem alleged exploitation by Big Tech
オープンAIのスマート検索エンジンであるChatGPTにおいて、有害なコンテンツを取り除くために協力したケニアの労働者たちが、ケニアの議員に対して訴状を提出し、ケニアでのビッグテック企業のアウトソーシングやAI業務についての調査を求めています。
申立人たちは、労働条件や業務の性格など、ケニアを通じてサービスをアウトソースする大手テック企業の「業務の性質、労働条件、運営」についての調査を要求しています。Sama社を中心に、労働者の労働搾取、労働組合崩壊、違法な大量解雇に関する複数の訴訟に関与していることが報じられています。
申立は、Time誌の報道に続くもので、Samaの労働者の報酬が低く、彼らの仕事は殺人、獣姦、レイプなどの描写を含む過激なテキストの読み書きを要求していたことを詳しく報じています。報道は、Samaが2021年末にOpenAIとの契約を結び、有害なコンテンツを検出するためのツール（ChatGPTに組み込まれた）の構築作業の一環として、「性的虐待、憎悪の表現、暴力の文章的な説明」をラベル付けするために使用されたと述べています。
労働者たちは自らが搾取され、心理的な支援も受けられず、重度の精神疾患に苦しむことになったと主張しています。労働者たちは、議員に対して「有害で危険な技術のアウトソーシング」を規制し、それを行う労働者を保護するよう要請しています。
Samaは、GoogleやMicrosoftなどのフォーチュン50企業の25％を顧客としているとしています。サンフランシスコを拠点とする同社の主要な事業は、コンピュータビジョンのデータの注釈付け、キュレーション、検証です。同社はケニアを含む拠点で3,000人以上の従業員を雇用しています。今年早くに、Samaはコンテンツモデレーションサービスを中止し、コンピュータビジョンのデータ注釈に集中するため、260人の労働者を解雇しました。
オープンAIは、申告された搾取に対して、その仕事は困難であると認め、その仕事を「人間らしく、自発的に提供する」ための倫理的な基準とウェルネス基準を設定していると述べました（具体的な措置については詳細を示していません）。同社は安全かつ有益な人工一般知能を構築するために、人間のデータ注釈が作業の1つの流れであり、リアルワールドでのより安全な行動に向けてモデルを誘導するためのものであると指摘しました。
オープンAIの広報担当者は、「私たちはケニアや世界中の研究者や注釈付け労働者たちが安全なAIシステムを確保するために頑張っていることを認識しています。彼らの努力は非常に貴重です。」と述べました。
SamaはTechCrunchに対して、ケニア政府との協力に積極的であり、「すべての企業で基盤となる保護措置が取られていることを確認するために」協力する用意があると述べました。同社は労働条件についての第三者監査を歓迎し、従業員が気づいた問題を提起するための複数の手段があるとし、公正な賃金を支払い、尊厳ある労働環境を提供するために、外部および内部の評価と監査を複数回実施していると述べました。OpenAIのスマート検索エンジンであるChatGPTで有害なコンテンツを削除するのに協力したケニアの労働者たちは、同国の立法府に対して請願を提出し、ケニアでのビッグテック企業によるコンテンツモデレーションとAIの委託に関して調査を行うよう求めています。
請願者たちは、ケニアを通じてSamaなどの企業を通じてサービスを委託しているビッグテック企業の「仕事の性質、労働条件、および業務」について調査を求めています。Samaは数多くの訴訟で指摘されている内容モデレーターの搾取、労働組合の崩壊、違法な大規模な解雇を含むサービスを委託しています。
請願は、Samaの労働者の報酬が低く、殺人、獣姦、強姦の場面などを含むグラフィックテキストの読み込みとラベリングが求められる仕事の性質を詳細に報告したTime誌の記事に続いています。報告によれば、2021年末にOpenAIは、有害コンテンツを検出するためにChatGPTに組み込まれたツールを構築するためにSamaに「性的虐待、憎悪表現、暴力のテキスト的な説明をラベリングする」という仕事を委託しました。
労働者は自らを搾取されたと述べ、彼らには「重篤な精神疾患」を引き起こす有害なコンテンツにさらされながら心理社会的な支援が提供されなかったと主張しています。労働者たちは、立法府に「有害で危険なテクノロジーの委託」を規制し、それを行う労働者を保護することを要求しています。
Samaは、GoogleやMicrosoftなどのフォーチュン50社の25％をクライアントとして数えています。このサンフランシスコを拠点とする企業の主要な事業は、コンピュータビジョンのデータ注釈、キュレーション、および検証です。同社はケニアを含む複数の拠点で3000人以上の従業員を雇用しています。今年初め、Samaはコンテンツモデレーションのサービスを中止し、コンピュータビジョンのデータ注釈に集中するため260人の従業員を解雇しました。
OpenAIは、主張された搾取に対する回答として、この仕事が困難であることを認め、データ注釈者に対して倫理的およびウェルネスの基準を設け、仕事を人間らしさを持って行うために共有していると述べました（具体的な対策の詳細は明らかにされませんでした）。彼らは安全で有益な汎用人工知能の構築のために、人間のデータ注釈が現実世界でのより安全な行動に向けてモデルを導くための作業の1つであると述べました。
SamaはTechCrunchに対して、すべての企業で基本的な保護策が整備されるようケニア政府と協力する用意があると述べました。また、従業員が懸念を提起するための複数のチャネルを持っており、「公正な賃金を支払い、品位ある労働環境を提供していることを確認するために、外部および内部で複数の評価と監査を実施している」とも述べています。
引用元記事はこちらWorkers that made ChatGPT less harmful ask lawmakers to stem alleged exploitation by Big Tech