AI alignment: Matching proposita artificialis intelligentia bona humana aequare

• Ad Author:
• auctor nominis

  Quantumrun Praevidentia
• January 25, 2023

Noctis intelligentia artificialis est cum proposita systematis AI valoribus humanis aequant. Societates sicut OpenAI, DeepMind, et anthropicae iunctos habent inquisitores, quorum unus focus est speculatorias speculatorias pro diversis missionibus in quibus hoc evenire potest.

AI alignment context

Secundum 2021 Universitas Cornell investigationis pervestigationis studiorum complura studia ostendimus instrumenta vel exempla ab algorithmis conditas ostentare, studio e e data elaborata. Exempli gratia, in lingua naturali processui (NLP), exempla selecta NLP quae de limitata notitia ponit edocta sunt documenta facta praedicere secundum genus stereotyporum nocivis contra feminas. Similiter alia studia inventa sunt algorithms in notitiis corruptis instructos consecutos in commendationibus racially in promptu, praesertim in poliendo.

Exempla multa sunt in quibus machinae systematis discendi peius fecerunt pro paucioribus vel coetibus multiplicibus incommodis laborantibus. Praesertim automated analysin facialis et diagnostica sanitatis typice non valde bene laborant pro mulieribus et hominibus coloris. Cum systemata critica, quae factis et logicis innituntur loco motus, in adiunctis adhibentur sicut curationis vel educationis collocandae, plus damni facere possunt, eo difficilius ratiocinationem post has commendationes cognoscere.

Quam ob rem, tech firms iunctiones AI noctis creant ut in algorithms pulchra et humana custodiantur. Investigatio essentialis est ad intellegendum directionem systematum AI provectorum, necnon provocationes quas obviam habemus ut facultates AI crescant.

Disruptive impulsum

Secundum Jan Leike, caput noctis AI in OpenAI (2021), cum AI systemata solum in annis 2010 facti sunt capax, intellegi potest maxime AI noctis investigationis theoriae gravis fuisse. Cum in immensum AI systemata perpenduntur, unus ex provocationibus quas homines intendunt, est ut hae machinae solutiones creare possint quae nimis implicatae sunt ad recensendum et perpendendum si sensum ethicum sentiant.

Leike excogitavit praemium recursivum exemplaris (RRM) consilium ut hoc problema figere. Cum RRM, plures "auxilium" AIs docentur adiuvare humanam aestimationem quam bene complexus AI exerceat. Optima est de facultate faciendi aliquid quod significat "alignment MVP". In terminis startup, MVP (vel productum viable minimum) simplicissima possibilis est societas ad ideam explorandam aedificare potest. Spes est aliquando, AI in investigationibus AI eiusque noctis cum valoribus et in functionibus humanis compositus est.

Dum interest in AI alignment aucta est retia positiva, multi analytae in campo putant multum "ethicae" laboris ad AI labs ducendum esse iustas relationes publicas destinatas ad technicas societates spectantes bonum et negativum publicum vitare. Hi homines progressus ethicam non exspectant ut his societatibus quolibet tempore prioritas efficiatur.

Hae observationes in luce collocant momentum accessionum interdisciplinarum ad valorem noctis nisus, sicut haec est nova regio inquisitionis moralis et technicae. Variae scientiae partes debent esse partes agendi investigationis inclusive inclusis. Hoc inceptum etiam indicat necessitatem technologorum et consiliorum ut conscii sint sui contextus socialis et ordinum, sicut AI systemata magis provectiores fiunt.

Effectus AI alignment

Plures effectus AI Gratia diei et noctis includere potest: 

• Artificialis intelligentiae labs varias ethicas tabulas conducentes ad incepta invigilare et ethica AI guidelines adimplere. 
• Imperia leges creantes quae societates requirunt ut AI compagem responsalem suum submittant et quomodo consilia sua AI ulterius promoveant.
• Controversiae additae de usu algorithmarum in conscribendo, custodiae publicae, et in coercitionibus.
• Investigatores accensi ex magnis AI labs ob conflictiones usurarum inter ethicam et corporatum metas.
• Plus pressio imperia ad systemata AI provecta ordinare, quae tam incredibiliter potentes sunt, sed potentia iura humana violare possunt.

Quaestiones commentari

• Quomodo possunt firmi rationi reddi pro AI systemata quae creant?
• Quae sunt alia pericula potentialia si AI misalignment?