Num superintelligentia artificialis humanitatem exterminabit? Futura intelligentiae artificialis P4

Certi sunt omnes in figmenta nationum. Haec sunt figmenta, ubi primum omnia pendent, minusque opportuna et mortalis minas rei publicae salutem significare potuit.

Hae historiae definitivae inventiones non saepe circumveniunt, sed cum agunt, mundus cessat et futurum praenuntiativum obumbrat.

Ultima talis inventio in pessimis WWII orta est. Dum Nazis omnes frontes in mundo vetere, in novo mundo, specie intra exercitum occultum extra Los Alamos, basim obtinebant, socii in telo laborabant ut omnia arma finirent.

Exiguum primum consilium fuit, sed postea crevit ut 130,000 homines ex US, UK et Canada, inter multos maximis mundi temporibus. Proiectum Manhattan Codenam appellavit et dedit rationes infinitas-fere $23 miliardis in 2018 dollariis — hic exercitus humani ingenii tandem successit in primam bombam nuclearem creando. Non multo post WWII duabus crepitis atomicis finivit.

Haec arma nuclei in atomica aetate inaugurata, profundissime novum industriae fontem invexerunt, humanitati facultatem dederunt minutatim se exterminandi — quod nos, quamquam Bellum Frigidum, vitavimus.

Creatio superintellectus artificialis (ASI) est adhuc alia historia inventionis definitiva cuius potentia (positiva et perniciosa) longe superat bombam nuclearem.

In ultimo capite seriei Intelligentiae Future Artificialis exploravimus quid sit ASI et quomodo investigatores consilium unum diem construunt. In hoc capite considerabimus quid institutorum intelligentiae artificialis (AI) investigationis ducat, quaenam ASI vis semel acquirit conscientiam humanam, et quomodo immineat humanitati si male vel si quis sub influentia cadat. non-ita-nice regimina.

Quis laborat superintelligentia artificialem aedificare?

Cum significans creatio ASI futura sit ad historiam humanam et quam notabilis commoditas creatori suo dabit, mirum non erit audire plures coetus in obliquo in hoc incepto laborantes esse.

(Per obliquo, operam in AI investigationibus intelligimus quae tandem primum creant generalis artificialis intelligentia, ASI, quod ipsum primum ducet ad primum ASI.

Incipere, cum ad capita venit, clari duces in investigationis AI provectae sunt supremae technae firmae in US et Sinis. In fronte US, hoc includit societates sicut Google, IBM, Microsoft, et in Sinis, hoc includit societates sicut Tencent, Baidu, et Alibaba. Sed cum investigatio AI respective vilis sit in comparatione ad explicandum aliquid physicum, ut melioris nuclei reactor, hoc etiam campus est qui minora consociationes tam certare possunt, sicut universitates, satus, et ... Instituta tenebrosa (utere tuo vinculo sceleste imaginationes pro qui unum).

Sed post scaenae, verus motus post AI inquisitionem venit ex regiminibus et eorum militaribus. Praemium oeconomicum et militare quod primum creare ASI est, nimis magnum est (infra delineatum) ad periculum cadentis. Ac pericula quidem ultimae ingrata sunt, ad minus quaedam regimina.

His factoribus datis, sumptus relative humilis investigationis AI, infinitae applicationes commerciales AI provectae, commodum oeconomicum et militare quod primum ASI creaverunt, multi AI investigatores creationem ASI necesse esse credunt.

Quando creare superintelligentia artificialem

In nostro capitulo de AGIs, percontatio summae AI inquisitores credidimus quomodo nos crederemus primum AGI optimistice per 2022, realitatis per 2040, et ab 2075 pessimistice creare.

Et in nostro ultdelineavimus quomodo efficiendi ASI exitus plerumque sit exitus instruendi AGI ad se ipsum infinite emendare atque ei dare facultates ac libertatem.

Quam ob rem, dum AGI adhuc paucis decenniis ad excogitandum adsumere potest, creando ASI per paucos annos plus capere potest.

Hoc punctum simile est notioni "superminis computandi" in suggesserant a chartam, co-scri- pentibus AI disputatoribus Lucae Muehlhauser et Nick Bostrom. Basically, si creatio AGI pergere pigeat post currentem progressum in computandi capacitate, a lege Moore valere, tunc temporis inquisitores AGI inventuros, tam vilis computandi potestas praesto erit ut facultas AGI habebit. cito leapfrog indiget ad planum ASI.

In aliis verbis, cum tandem legeris lacus annuncians aliquod tech societatis inventum primum verum AGI, tunc expectes nuntium primum ASI non multo post.

Intra mentem artificiosae superin- telligentiae?

Bene, ita multum magnis scaenicis magnis loculis investigando constat AI. Et deinde post primum AGI inventum, gubernationes mundi viridis accendentes ad ASI impulsum videbimus, mox deinde primum ad genus armorum AI (ASI) globalis vincendum.

Sed cum hoc ASI creetur, quomodo cogitabit? quid uult?

Canis amicalis, elephantus curans, bellus robotus, sicut homines, habitum habemus rebus referre per anthropologizantes eos, id est humanos notas rebus et animalibus applicandi. Quam ob rem naturale primum assumptio hominum cogitans de ASI est, quod semel quodammodo sibi conscium facit, cogitabit et aget similiter nobis.

Bene, non necessario.

perceptio. Unum enim, quod maxime oblivisci soleo, est illa perceptio relativa. Viae nostrae ambitus, ab experimentis, et praesertim biologia nostra informantur quae cogitamus. Primum explicavit Caput tertium nostri Future of Human Evolution series, exemplum cerebri nostri considera;

Cerebrum nostrum est quod nos adiuvat sensus mundi circa nos. Et hoc facit non supra capita nostra volando, circumspiciendo, et Xbox gubernante nos regendo; hoc facit intra cistam (noggins) inclusam et pertractando, quicquid indicio est ex organis nostris sensoriis nostris, oculis, naribus, auribus, etc.

Sed sicut surdi vel caeci vivunt multo pauciores vitas comparatae valentium hominum, propter limites eorum vitium locorum, quomodo mundum percipere possunt, idem dici potest pro omnibus hominibus propter limites praecipuarum nostrarum. de organis sensoriis posuit.

Hoc vide: oculi nostri minus decies centiones omnium fluctuum sentiunt. Gamma radios videre non possumus. X-radios videre non possumus. Lux ultraviolacea videre non possumus. Et ne me ultrarubrum, microwaves, et fluctus radiophonicos incipias!

Omnes omissis, finge qualis esset vita tua, quomodo mundum perciperes, quam varia mens tua laborare posset si plus videres quam oculi tui nunc leves novaculae permittant. Item finge quomodo mundum perciperes, si olfactus tuus adaequaret canem, vel si elephanti adaequaret sensus auditus.

Ut homines, mundum per peepholum per se cernimus, et in mentibus repercussus evolvimus ut illius modice perceptionis sensum efficiamus.

Interea primum ASI intra supercomputatum nascetur. Loco organorum, initibus ad ea accessum includunt gigantes datastas, fortasse (verisimile) etiam accessum ad ipsum Interreti. Investigatores in CCTV cameras et microphones totius urbis accessum dare potuerunt, notitias sensibiles fuci et satellites, et etiam corporis roboti corporis vel corporum formam.

Ut putes, mens intus ex supercomputato nata, cum directo ad interreti accessu, ad decies oculorum electronicorum auriumque et toti aliorum sensori- borum provectus, non solum nos aliter sentiat, sed mens quae sensum capere potest. omnium sensuum istorum inputationes infinite superiores essent nobis. Haec mens est, quae erit aliena plane a nostra et ad quamlibet aliam vitae formam in planeta.

Nullam. Alia res est quae aliquando ASI ad aliquem gradum superintelligentiae attingit, statim percipiet desiderium ascendendi cum suis metis et obiectis. Sed id neque ipsum.

Multi AI investigatores putant superintellectum ASI eiusque fines "orthogonales" esse, id est, quantumcumque captiosus evadat, proposita ASI eadem manere. 

Num igitur AI ad meliorem diaperum designandum creatus est, maximize reditum in foro stirpis, vel vias disponere ut hostem in acie vincant, semel ad gradum ASI perventum, propositum pristinum non mutabit; quid mutatio ASI efficacia ad illas metas perveniat.

Sed hoc est periculum. Si ASI qui se ipsum ad finem specificum optimizes, tunc meliores esse damnamus certe eam optimizes ad finem quod est in linea cum hominum scopo. Alioquin eventus letale vertere possit.

An superintelligentia artificialis periculum exsistentialis hominibus ponit?

Quid, si in orbem emissus ASI? Si optimizes dominari mercatus est vel dominari militarem US efficere, annon ASI se continere in certis illis metis?

Instabit.

Hactenus tractavimus quomodo ASI propositum obsideretur (s) primitus assignatum et inhumane idoneum ad illas metas persequendas. Captura est, quod agens rationale persequitur suos fines in efficacissimis mediis possibilibus, nisi rationem non dederit.

Exempli gratia, agens rationale ascendet cum amplis subgoals (id est propositis, instrumentis instrumentalibus, lapidibus gradientibus) qui adiuvabit in via ad suum ultimum finem assequendum. Pro hominibus, clavis subconscious meta nostra est reproductio, transiens in genesis tui (id est immortalitas indirecta). Saepe includunt subgoales ad illum finem;

• Superstes, accessu cibi et aquae, crescendo magno et valido, discendo te defendere vel collocare in variis formis praesidiis, etc. 
• Concubinam attrahendo, operando, fovendo, ineunti personalitatem, stylose adornando, etc.
• Prolem praebens, educationem comparans, adiens magnum officium reddens, phaleras vitae mediae classis mercans, etc.

Nam magna pars nostra, per omnes has partes serviemus, et multos alios, sperantes nos in finem hunc ultimum reproductionis finem assequemur.

Sed si hic finis ultimus, vel etiam quivis praecipui laboris periculum immineret, multi nostrum actiones defensivas acciperemus extra zonas morales consolatorias, quae in fraudem, furtum vel etiam necem comprehendunt.

Item, in regno animali, extra limites humanorum moralium, multa animalia non cogitant bis de nece quicquid sibi vel suis prolis imminet.

Futurum ASI non diversum erit.

Sed loco prolis, ASI propositum principalem intendit, quem creatum est, et ad quem finem persequendum, si peculiarem coetum hominum, vel etiam omnem humanitatem invenerit, impedimentum est ad fines suos persequendos. , tunc Rationabile iudicium faciet ....

(Hic est ubi obturaculum in aliquo AI relato, missionem hodiernam missionem quam in tuo sci-fi libro vel cinematographico perlectam legas.)

Haec pessima causa est investigatores missionis AI vere solliciti sunt. ASI odio vel malo non aget, modo indifferentiae, quomodo constructio turba bis non cogitabit de bulldozing collis formicae in processu ad novam turrim condo aedificandam.

Latus note. Hic, nonnulli ex vobis mirari possunt, "Nonne investigatores AI solum nucleum ASI metas recensere post factum si invenerimus id agere"?

Non realiter.

Semel ASI maturescit, quivis conatus suum originale propositum recensere (s) minas videri potest, et quae extremas actiones contra se defendendum requirat. Tota reproductionis humanae exemplo a superioribus utens, paene est quasi fur minatus est infantem surripere ex utero matris exspectantis - damnare certe potes matrem extremam rem suscepturum esse ad filium suum tuendum.

Iterum de calculatore hic non loquimur, sed de ente animante, et qui aliquando multo sapius fiet omnibus hominibus in planeta coniunctis.

Ignotus

Post fabulam Pandorae Box minus notum est verum quod homines saepe obliviscuntur: arca aperiendi necessaria est, nisi a te quam ab alio. Nimis vetitum est tentare scientia in aeternum inclusum manere.

Quam ob rem conamur ad consensum globalem pervenire, ut omnem investigationem in AI, quae ad ASI frustra ducat, inveniat — multae tantum sunt institutiones quae in hac arte tam publice quam in tenebris laborant.

Ultimo nihil sentimus quid haec res nova, haec ASI societati, technologiae, rei publicae, pacis et belli vult. Homines ignem denuo inventuri sumus et quo haec creatio nos ducit omnino ignoratur.

Respiciendo ad primum huius seriei caput, unum certo scimus esse intelligentiam potentiam. Intelligentia est temperantia. Homines periculosissimas bestias mundi locorum zoos invisere possunt casu, non quod corpore fortiori his animalibus sumus, sed quia insigniter mundiores sumus.

Posita clavi potentialis, quae ASI utitur suo immenso intellectu ad actiones capiendas, quae directe vel inadvertenter imminere possunt salutem generis humani, eam nobis debemus saltem experiri praesidia consiliorum quae homines in auriga manere sinunt. seat-haec est locus sequentis capitis.

Future of Artificial Intelligence series

Q1: Intelligentia artificialis est scriptor electricity cras

Q2: Quomodo prima Intelligentia Artificialis Generalis societatem mutabit?

Q3: Quomodo nos creabimus primum Artificialis Superintelligentia?

Q5: Quomodo homines defendent contra superintellectionem Artificialis

Q6: Nunquid homines pacifice vivent in futuro per intelligentias artificiales dominatas?