Големата технологија и војската: етичка сива зона

• автор:
• име на авторот

  Quantumrun Foresight
• Јануари 18, 2023

Резиме на увид

Компаниите од Силиконската долина поттикнаа значајни иновации во автономните технологии, како што се самоуправувачки возила и беспилотни летала. Од 2010-тите, овие иновации постепено се филтрираа во технолошките купови на војските ширум светот за да ги унапредат способностите за автономно војување. Како резултат на тоа, технолошките вработени во приватниот сектор и организациите за човекови права ширум светот бараат потранспарентни упатства за тоа како војските на нивните земји ги прифаќаат технологиите од приватниот сектор.

Големата технологија и воениот контекст

Развојот на технологијата за војската бара огромно количество време и инвестиции. Воено-индустрискиот комплекс, на пример, обично вклучува долгогодишно партнерство помеѓу воените организации и огромните одбранбени изведувачи, како што се Локхид Мартин и Рејтеон во САД. Нивните проекти вклучуваат развој на одбранбени средства како што се автономни воени беспилотни летала и носачи на авиони. 

Меѓутоа, воено-индустрискиот комплекс вклучува и партнерства со други видови компании од приватниот сектор кои традиционално не се поврзани со одбранбениот сектор, како што се фирмите Биг Техн. Како што расте бројот на овие нови одбранбени партнерства, многу вработени стануваат свесни дека договорите се потпишуваат без нивно знаење. На пример, во 2018 година, персоналот свиркачи и истражувачките новинари ја објавија инволвираноста на Google со Project Maven, иницијатива на американското Министерство за одбрана (DoD) која користи вештачка интелигенција (AI) за целни напади со беспилотни летала. Вработените во Google тврдат дека компанијата никогаш не побарала нивна согласност да учествува во овој и други проекти за одбрана.

Сепак, во 2018 година, Google се повлече од Project Maven откако петицијата беше потпишана од илјадници вработени, тврдејќи дека компанијата не треба да се занимава со војна. Ваквиот развој на настаните принуди некои технолошки фирми да направат став за тоа каде да ја повлечат границата. На пример, по неговото повлекување од Project Maven, Google издаде етички упатства во кои ги наведува своите ставови за одговорното истражување на вештачката интелигенција. Во политиката беше наведено дека компанијата нема да конструира оружје засновано на вештачка интелигенција, но не исклучува континуирана соработка со одбранбениот сектор за развој на неофанзивни воени способности.

Нарушувачко влијание

Вклучувањето помеѓу Big Tech и војската може да има долгорочни последици за овие технолошки бизниси. Особено, многу земји се повеќе ги гледаат традиционално неутралните компании како Google или Microsoft како сојузници на американските воени организации. Бидејќи сега е познато дека овие фирми активно соработуваат во одбранбениот сектор на САД, надворешните нации се колебаат да продолжат да зависат од американската голема технологија за софтвер и техничка поддршка. Слично колебање е применето и за кинеските технолошки гиганти; на пример, САД, Канада и многу европски земји почнаа да ги забрануваат телекомуникациските системи Huawei 5G поради страв од надзор на кинеската влада. 

Згора на тоа, некои вработени со либерално размислување кои работат во такви технолошки компании може да се чувствуваат експлоатирани со текот на времето. Особено, работниците од Millennial и Gen Z имаат тенденција да ставаат премија на етичките деловни практики и соодветно ќе ги изберат своите работодавци. Некои од овие млади вработени може дури и да станат свиркачи и да разоткријат тајни, со што ќе му наштетат на репутацијата на нивната соодветна компанија. 

Сепак, Министерството за одбрана на САД бара да стане потранспарентно во начинот на кој ги спроведува своите истражувачки иницијативи. Одделот сега бара од продавачите на трети страни да ги објават нивните соодветни етички упатства за вештачка интелигенција кои јасно нагласуваат како тие го надгледуваат развојот на машинското учење. Big Tech, исто така, агресивно ги спроведува своите одговорни иницијативи за вештачка интелигенција. На пример, Фејсбук го основа својот етички одбор (2018) за да се осигура дека алгоритмите и новите функции не се пристрасни. 

Импликации од големата технологија и војската

Пошироките импликации од сè повеќе партнерството на Big Tech со одбранбениот сектор може да вклучуваат:

• Земјите со развиени технолошки сектори добиваат подлабока воена предност во однос на помалку развиените врсници во идниот борбен простор. 
• Вработените во технологијата бараат од нивните фирми да бидат транспарентни за секој проект на кој работат, вклучително и целосно откривање на засегнатите страни.
• Неколку фирми, како Гугл, Мајкрософт и Амазон, се повлекуваат од избраните воени договори и договори за спроведување на законот.
• Воените организации се префрлаат на помали технолошки фирми и стартапи за да избегнат контрола.
• Оценки за животната средина, социјалните и управувањето (ESG) кои се фокусираат на метрика за етика за да се осигура дека фирмите одговорно спроведуваат вештачка интелигенција.
• Зголемениот развој на алгоритамски способности за војување, како и автономни беспилотни летала, тенкови и подводни возила за воена употреба.

Прашања што треба да се разгледаат

• Ако работите во технолошка фирма, како вашата компанија спроведува одговорна вештачка интелигенција?
• Како биг технологијата и војската можат да работат заедно потранспарентно и поетички?