퀀텀런

이미지 크레딧:

iStock

기술 윤리 지침: 상업이 연구를 장악할 때

기술 회사가 책임을 지기 원하더라도 때때로 윤리로 인해 비용이 너무 많이 들 수 있습니다.

저자:
저자 이름
퀀텀런 예측
2023년 ２월 15일

인사이트 요약

인공 지능(AI) 시스템이 일부 소수 집단에 가할 수 있는 잠재적인 위험과 알고리즘 편향으로 인해 많은 연방 기관과 기업은 점점 더 기술 제공업체가 AI를 개발하고 배포하는 방법에 대한 윤리적 지침을 게시하도록 요구하고 있습니다. 그러나 이러한 지침을 실생활에 적용하는 것은 훨씬 더 복잡하고 모호합니다.

윤리 충돌 컨텍스트

실리콘 밸리에서 기업들은 "윤리를 우선시하는 데 드는 비용은 얼마입니까?"라는 질문을 포함하여 윤리 원칙을 실천에 가장 잘 적용하는 방법을 여전히 모색하고 있습니다. 2년 2020월 XNUMX일, Google의 윤리적 AI 팀의 공동 책임자인 Timnit Gebru은 자신이 해고되었다는 트윗을 올렸습니다. 그녀는 편견과 안면 인식 연구로 AI 커뮤니티에서 널리 존경받았습니다. 그녀를 해고하게 만든 사건은 그녀가 공동 집필한 논문이 Google의 출판 기준에 맞지 않는다고 판단한 것과 관련이 있습니다.

그러나 Gebru과 다른 사람들은 해고가 진전보다는 홍보에 의해 동기가 부여되었다고 주장합니다. 해고는 게브루가 인간의 언어를 모방한 AI가 어떻게 소외된 사람들에게 해를 끼칠 수 있는지에 대한 연구를 출판하지 말라는 명령에 의문을 제기한 후에 발생했습니다. 2021년 XNUMX월에는 Gebru의 공동 저자인 Margaret Mitchell도 해고되었습니다.

Google은 Mitchell이 전자 파일을 회사 외부로 이동하여 회사의 행동 강령 및 보안 정책을 위반했다고 밝혔습니다. Mitchell은 해고 사유에 대해 자세히 설명하지 않았습니다. 이러한 움직임은 엄청난 비난을 불러일으켰고, Google은 2021년 XNUMX월까지 다양성 및 연구 정책에 대한 변경 사항을 발표했습니다. 이 사건은 윤리적 충돌이 거대 기술 기업과 그들의 객관적인 연구 부서를 어떻게 분열시키는지 보여주는 한 가지 예일 뿐입니다.

파괴적 영향

Harvard Business Review에 따르면 비즈니스 소유자가 직면한 가장 큰 과제는 윤리적 위기에 대응해야 하는 외부 압력과 회사 및 산업의 내부 요구 사이에서 균형을 찾는 것입니다. 외부 비판으로 인해 기업은 비즈니스 관행을 재평가해야 합니다. 그러나 경영진, 업계 경쟁 및 비즈니스 운영 방식에 대한 일반적인 시장 기대의 압력은 때때로 현상 유지에 유리한 상쇄 인센티브를 생성할 수 있습니다. 따라서 윤리적 충돌은 문화적 규범이 진화하고 회사(특히 영향력 있는 기술 회사)가 새로운 수익을 창출하기 위해 구현할 수 있는 새로운 비즈니스 관행에 대한 경계를 계속해서 확장함에 따라 증가할 것입니다.

이러한 윤리적 균형에 고심하는 기업의 또 다른 예로 메타라는 기업을 들 수 있습니다. 공개된 윤리적 결점을 해결하기 위해 Facebook은 2020년에 설립자 Mark Zuckerberg가 내린 콘텐츠 조정 결정을 뒤집을 수 있는 권한을 가진 독립적인 감독 위원회를 설립했습니다. 2021년 XNUMX월 위원회는 분쟁 콘텐츠에 대한 첫 번째 판결을 내렸고 대부분의 사례를 뒤집었습니다.

그러나 매일 페이스북에 올라오는 수십억 개의 게시물과 수많은 콘텐츠 불만으로 인해 감독 위원회는 기존 정부보다 훨씬 느리게 운영됩니다. 그럼에도 불구하고 이사회는 몇 가지 유효한 권장 사항을 제시했습니다. 2022년 패널은 Meta Platforms에 Facebook에 게시된 신상 털기 사건을 단속할 것을 권고했습니다. 공개적으로 사용 가능하더라도 사용자가 플랫폼에서 개인의 집 주소를 공유하는 것을 금지했습니다. 이사회는 또한 Facebook이 위반이 발생하는 이유와 처리 방법을 투명하게 설명하기 위해 커뮤니케이션 채널을 열도록 옹호했습니다.