Quantumrun

IMAGE CREDIT: Quantumrun

Quomodo homines defendent contra superintellectionem Artificialis: Future intelligentiae artificialis P5

David Tal, Publisher, Futurist
@DavidTalWrites
Quantcast

Sat, 09/15/2020 - 13:15

Annus est 65,000 BCE, et est a . Thylacoleotu et genus tuum magni venatores Australiae antiquae erant. Errastis libere terram et in aequilibrio habitastis cum predonibus et preda que iuxta terram tenuerunt. Tempora mutaverunt, sed status in regno animali permansit viguit, quamdiu tu et patres tui meminerint. Quadam igitur die advenientes apparuerunt.

Ex muro aquae gigantis fama pervenit, sed haec animalia in terra viventia commodiora videbantur. Istas creaturas tibi videre debebas.

Is paucos dies cepit, sed tandem ad oram fecit. Ignis in caelo proficiscebatur, tempus perfectum has creaturas explorare, fortasse etiam experire quomodo gustarent unum comedere.

tu macula unum.

Duobus pedibus ambulavit et pilum non habuit. Videbatur infirmus. Unimpressive. Vix tanti metus in regno fuit.

Diligenter incipis aditum tuum, sicut nox lucem fugat. Propius es. tum tu duratus. Voces magnae sonant et deinde quattuor plures e silva post eam apparent. quot sunt?

Creatura alios sequitur in treelines, et tu sequeris. Et quo magis agitis, tanto mirabiliores sonos audis, donec te magis ex istis creaturis maculam. Tu procul exeundo silvam in littore summo. Earum multae sunt. Sed potiores sunt omnes placide circum ignem sedentes.

Hos ignes ante vidisti. Aestu temporis, ignis in caelo aliquando terram visitaret et tota silvas incenderet. Istae autem creaturae quodammodo moderabantur. Qualem talem potestatem creaturae habere potest?

Tu procul inspicias. Plures super murum aquae gigantis veniunt.

Recede tu gradum.

Hae creaturae non sunt sicut ceterae in regno. Sunt aliquid omnino novum.

Statuis discedere ac monere parentem tuum. Si maior numerus eorum crescat, quis scit quid eveniat.

***

Thylacoleo post adventum hominum brevi relative exstinctum credidit, una cum pluribus aliis megafauna in continenti Australiae. Nullus alius apex mammalium predonum apice successit—id est, nisi homines in eo genere numeras.

Hanc allegoriam eludere focus est huius seriei capitis: Si futura superintelligentia artificialis (ASI) nos omnes in batteries convertet et tunc nos in Matrix obturabit vel homines viam effingant ne victima fiat sci-fi; AI superi insidias?

Hactenus in nostra serie in the Quia ingenii artificio ex Futureexploravimus omnia genera AI, inclusa potentia positiva particularis formae AI, ASI: ens artificiale, cuius futura intelligentia nos similes formicis in comparatione faciet.

Sed quis dicat hunc ens dolor accepturum esse ab hominibus semper imperatum. Quid si australes res eant? Quomodo contra perfidem ASI defendemus?

In hoc capite, per hype ementiti incidebimus — saltem ut refertur ad "planum extinctionis humanae" pericula - et in realistica defensione optiones mundi gubernationibus praesto sunt.

Possumusne omnem ulteriorem inquisitionem in artificiosa superintelligentia prohibere?

Periculis potentialibus datis quae ASI humanitati proponere possent, prima quaestio perspicua quaerenda est: Numne tandem omnes ulteriores investigationes in AI desinere possumus? Aut certe vetat aliqua investigatio quae periculose nos prope ut ASI creando possit?

Brevis responsio: No.

Longum responsum: Intueamur diversos histriones hic implicatos.

In gradu investigationis nimis multi AI investigatores hodie sunt ex multis initiis, societatibus et universitatibus circa mundum. Si una societas vel patria sua AI investigationis conatus limitare constituerunt, simpliciter alibi mansuri sunt.

Interim pretiosissimi planetae societates suas fortunas suas faciunt, applicationem AI systematum ad negotia specifica. Rogans ut desinant vel finiant progressionem AI instrumentorum affine est rogando ut desinant vel circumscribant futuri incrementi sui. Finaliter, hoc diuturnum negotium immineret. In iure corporationes fiducialem habent responsabilitatem quae pro suis fideiussoribus valorem continenter aedificat; quae significat actionem quae incrementum illius valoris ad lites perducere posset. Et si quis politicus investigationem AI circumscribere temptavit, tunc gigantes isti corporationes necessarias lobbying mercedibus ad animum suum vel ad collegarum animos mutandas redderent.

Ad pugnam, sicut terroristae ac libertas pugnantium per orbem terrarum, clandestini artibus ad pugnandum contra militares meliores fundendas usi sunt, minores nationes incitamentum habebunt AI ut simile commodum imperatoriae contra maiores nationes quae plures utilitates militares possunt habere. Item ad suprema militaria, sicut ad US, Russia et Sina pertinentes, aedificans ASI militare par est cum armamentario armorum nuclei in sinum tuum dorsum habens. Aliis verbis, omnes militares sumptu AI modo perseverabunt ut in futuro pertinentes maneant.

Quid de imperiis? Vere, politici hi dies (2018) technici illiterati sunt et parum intellegunt quid AI sit vel eius futurae potentiae - hoc eos facile per corporatas utilitates tractabit.

Et in plano globali cogita quam difficile esset imperia mundi persuadere 2015 subscribere Paris foederis ad mutationem climatis occupari - et semel obsignatis, multae obligationum ne obligarentur quidem. Non solum quod mutatio climatis fluxum hominum physice experitur globaliter in dies magis crebras et graves tempestates eventus. Nunc, cum de limitibus in AI consentientibus loquitur, haec causa est quae in re publica late invisibilis et vix comprehenditur, ita bona fortuna emere-in quolibet genere 'Paris Pactionis' ad AI limitandam.

Aliis verbis, nimis multae utilitates sunt AI quaerentes suos fines prohibere quaelibet investigationes quae tandem ad ASI ducere possunt.

Possumusne artificiosa superintelligentia cavere?

Proxima quaestio rationabilis est, an caveam vel cohibere ASI semel inevitabiliter creare possumus?

Brevis responsio: Item, n.

Longum responsum: Technologia contineri non potest.

Pro uno, modo considera milia ad decies centena milia tincturae interretiales et phisicis computatoriis in mundo, qui continenter novas programmata vel novas versiones exsistentium programmatis extorquent. Possumusne honeste dicere unumquemque eorum programmatum solvo esse 100 cento bug liberorum? Hi cimices sunt quibus cursores professionales adhibent ad fidem chartarum infomentium decies centena milia vel gentium secreta classificata furandi - et hi sunt homines hackers. Nam ASI, posito incitamentum ad caveam digitali evadendi, processum inveniendi cimices et perrumpendi per programmatum esset aura.

Sed etiamsi turmae AI investigationis viam ad ASI pixidem significavit, id non significat proximos 1,000 iugis eam bene instare vel incitari ut ea utatur.

Decies centena capiet et fortasse etiam decennia ASI creandi. Corpora vel imperia quae huiusmodi pecuniae collocant tempusque significantem reditum in eorum collocatione exspectabit. Et pro ASI id genus reditus comparare - sive illud mercatum incidere sive novum miliardorum dollarorum productum excogitare aut conciliare consilium ad pugnam maiorem exercitum comparare - liberum erit accessum ad ingentem datam statuto vel etiam interreti. ipsa ad eos redit.

Et semel ASI accessus ad retiacula mundi, nullae cautiones sunt quae eam in cavea sua remittere possumus.

Vtrum artificiosa superintelligentia possit bonum esse discere?

Nunc, AI inquisitores non sunt solliciti de ASI malum fieri. Totum malum, ai sci-fi tropum est, homines anthropomorphizantes denuo. ASI futurum ASI nec bonum nec malum erit - notiones humanae - simpliciter amorales.

Naturalis igitur assumptio est quae hanc tabulam ethicam blank dedit, AI inquisitores in prima ASI ethicas codices programmata possunt, quae in linea cum nostris sunt, ut Terminatores in nos non finiat nec nos omnes in Matrix gravida convertat.

Sed haec suppositio in secunda suppositione excoquitur quod AI inquisitores sunt etiam periti in ethica, philosophia et in psychologia.

Maxime vero non.

Secundum psychologum et auctorem cognoscitivum Steven Pinker, haec res significat munus coding ethicae errare variis modis posse.

Exempli gratia, etiam optimi AI inquisitores imprudenter in his ASI codicem male excogitarunt ethici codices qui in quibusdam missionibus ASI quasi sociopath agere possunt.

Similiter simile est verisimilitudo quod AI indagator programmata ethicorum codicibus in quibus indagator insitas bias includuntur. Exempli causa, quomodo ASI agere debet, si ethica ethica a conservativo nobis liberali prospectu orta, vel Buddhista Christiana vel islamica nobis traditio?

Causam hic videre mihi videor: nulla est universalis institutio morum humanorum. Si velimus ASI nostrum codicem ethicum agere, unde venit? Quae praecepta includuntur et excluduntur? Quis iudicat?

Vel dicamus hos AI inquisitores ASI creari id perfecte congruens cum hodiernis culturae normis et legibus hodiernis. Hoc igitur ASI adhibemus ut foederati, status/provinciales, et officiales officiales adiuvent, efficacius et melius has normas legesque tueantur (verisimile casu pro ASI obiter utamur). Hem, quid fit cum mutatur cultus noster?

Finge aliquem ASI ab Ecclesia Catholica in summa sua potestate in Europa Medievali (1300-1400s) creatum esse, cum propositum adiuvandi Ecclesiam administrare hominum et strictam adhaesionem dogmati religionis temporis efficere. Postea centuriis, nunquid feminae eodem iure utantur quae hodie fruuntur? An inferiores defendantur? Liberne oratio promoveatur? Num separatio ecclesiae et status urgeatur? Scientia moderna?

Aliis verbis, visne in hodiemos mores et consuetudines futurum in carcerem ducere?

Jocus ac- cusatur Colin Allen, libri co-auctoris; Moralis Machinis: Docentes Robots ius ex Nefas. Potius codicis normas ethicas rigidas conari, habemus ASI ethicam communem et moralem eodem modo discere, quo homines per experientiam et commercia cum aliis agunt.

Molestiae tamen hic est, si AI investigatores figurant non solum quomodo doceant ASI normas nostras culturales et ethicas, sed etiam quomodo accommodare ad novas normas culturales sicut oriuntur (quod "normativitas indirecta" dicitur), tum quomodo hoc ASI evolvere statuit normas culturae et ethicae intellectus vagus evadit.

Et hoc provocatio s.

Ex altera parte, AI investigatores conantur coding signa stricte ethica seu regulas in ASI conari ac moderari eius agendi rationem, at consectaria praevisa periclitantur inductae ex imperito coding, studiorum studio, ac normae sociales quae uno die evaserint. E contra, conari possumus ASI erudire ad humanam ethicam et mores intelligendos addiscendi modo aequa vel superiori nostro intellectui ac deinde sperandum esse, ut accurate evolvatur intellectus ethicae et morum, sicut progreditur societas humana. deinceps per decennium et saeculum.

Utroque modo, aliquis conatus est proposita ASI figere cum muneribus nostris plurimum periculi.

Quid si mali actores de industria mali superintellectus artificialis efficiant?

Posita serie cogitationum hucusque delineata, pulchra quaestio est quaerere utrum coetus terroris an gens perfida possit suos fines creare an 'malum' ASI.

Hoc maxime fieri potest, praesertim postquam investigationes quae implicatae sunt cum ASI creando in promptu fit aliqualiter online.

Sed, ut antea innuitur, impensas et peritia quae in primo ASI creando enormes erunt, primum ASI fore verisimile est ab ordinatione creari quae ab natione progressa moderata vel graviter commovetur, US, Sinis et Iaponia, verisimile. Corea et unus principum Europaeorum nationum longi ictus sunt).

Omnes hae regiones, dum competitores, validum oeconomicum unumquemque habent ad conservandum ordinem mundum — ASIs efficiunt ut desiderium suum reddant, etiam dum promovendis nationum commodis se pugnent.

Super hoc, ASI intelligentia et potestas theoretica aequatur potestati computanti cui accessum est, ASIs significantibus nationibus progressis (quod fasciculum miliardis dollarorum praestare potest. supercomputers) in ASIs a minoribus nationibus vel coetibus criminalibus independens magnum habebit commodum. Item, ASis plus intelligens, celerius tempore.

Ita, hoc caput initio, cum maiore accessu ad vim computandi rudis coniuncta, si umbratilis organization/natio periculosum ASI creet, ASIs nationum progressarum vel occidet vel cavet.

(Haec ratio cogitandi etiam est cur investigatores aliqui AI in planeta unum ASI semper tantum futurum esse credant, cum primus ASI tale caput initium habeat super omnes sequentes ASIs ut futuras ASIs quasi minas interire videat. Haec alia ratio est cur nationes in AI investigationem continuam fundant, si modo fit "primum locum vel nihil" competition.

ASI intelligentia non accelerant vel explodunt sicut cogitamus

ASI a creato prohibere non possumus. Omnino regere non possumus. Certum esse non possumus semper cum communibus moribus agere. Geez, incipimus hic canere sicut parentes helicopteri!

Quod autem humanitatem a proprio parente tuo praeprotectivo separat, id ipsum parimus, cuius intelligentia immensum ultra nostrum erit. (Nec, non idem est ac cum parentes tui te rogant ut computatorium suum figas quandocumque domum ad visendum veneritis).

In praecedentibus articulis huius futuri seriei intelligentiae artificialis quaesivimus cur AI investigatores putent intelligentiam ASI ultra imperium crescere. Sed hic rumpemus illud genus ... bulla.

Vides, intelligentia non solum ex aere se creat, sed per experientiam extrinsecus stimulis formatur.

Aliis verbis, possumus AI cum potentia ut super intelligentes fiant, sed nisi linguam notitiarum in illam immittere vel liberum ad Interreti accessum dare vel etiam modo robot corpus dare, nihil discit ad illam potentiam pervenire.

Et etiamsi accessus ad unum vel plures eorum stimulos, cognitionem vel intelligentiam plusquam notitias colligendas implicat, methodum scientificam implicat, observationem faciens, quaestionem formans, hypothesin, experimenta faciendi, conclusionem, stupam. et repetat in eternum. Praesertim si haec experimenta res physicas involvunt vel homines observantes, uniuscuiusque experimenti eventus hebdomades, menses vel annos colligere potuerunt. Hoc ne quidem ratio pecuniae ac facultatum rudium ad haec experimenta perficienda necessaria est, praesertim si novam telescopium vel officinam construendi involvant.

Aliis verbis, sic, cito ASI discet, sed mens magica non est. ASI ad supercomputatorem exspectanti ut omnia scire non potes modo hamum. Corporis angustiae erunt ad acquirendam ASI notitiarum, significationem corporis angustiis velocitati erunt ut magis intelligentes crescant. Hae angustiae tribuent humanitati tempus, quo necessario moderatur in hac ASI collocandi, si incipit agere de finibus hominum cum metis.

Superintelligentia artificialis tantum periculosa est si in realem mundum exit

Alterum quod in toto hoc ASI peri- mento periit, haec disputatio est ASIs in utroque non esse. Formam autem corporis habebunt. Et omne quod habet formam corporalem, potest regi.

Primum, ut ASI ad suam potentiam intelligentiam attingat, non potest intra unum corpus roboti habitare, cum hoc corpus potentiam suam computandi incrementum caperet. (Quae ob causam robot corpora aptior AGIS seu artificialis intelligentiae generalis explicatae in cap huius seriei, sicut Data e Star Trek seu R2D2 e Bella Stara. Dolor et capax, sed ut homines, terminum habebunt ad quam capere possunt.)

Hoc significat quod haec futura ASIs verisimillimum erit intra supercomputatorium seu reticulum supercomputatorum, qui ipsae in magnis complexionibus aedificatae sunt. Si calcaneum ASI vertit, homines aut potestatem ad haec aedificia averte possunt, eas a Interrete abscindere, vel iustae machinae haec aedificia omnino esse. Pretium, sed agibile.

Sed tunc quaeres, annonne haec ASIs se replicare, an se recipere? Ita, sed magnitudo fasciculi rudis harum ASIs tam magna erit ut soli ministri qui eas tractare possint ad magnas coetus vel imperia pertineant, significationes non difficile erit ad persequendum.

Potestne scientia artificiosa scintilla belli nuclei, vel nova pestis?

Hoc loco, ad omnes opiniones superorum sci-fi recogitans et cinematographica spectasti crescere ac cogitans hos ASIs intra supercomputatores suos non manere, verum damnum in rerum natura fecerunt!

Bene, haec frangamus.

Exempli gratia, quid si ASI mundo reali immineat, mutando in aliquid sicut Skynet ASI e libertate pelliculae, Terminator. Hoc in casu, opus esset ASI clam malum totum complexum industriae militaris ex progressa gente in officinas gigantes aedificandas, quae decies centena millia fuci robotarum extorquere possunt ad suum malum imperium faciendum. In hac die et aetate, id est tractum.

Aliae possibilitates includunt ASI minas hominibus cum bello nucleari et bioweaponibus.

Exempli gratia, ASI operariorum vel autocinetorum in codicibus missilibus, qui provectus nationis armamentarium nuclei praeciperet, primum ictum immittit, qui adversas regiones suas optiones nucleares reprimere coget (iterum Terminatorem retractans). Vel si ASI autocinetum in lab pharmaceuticum, processus fabricandi sollicitat, et venena decies centena remediorum medicorum vel pestiferam alicuius viri eximii tumultum concitat.

Primum, optio nuclearis laminam abscindit. Supercomputatores moderni et futuri semper prope centra influentiae in quavis regione positae sunt, id est prima scuta in quolibet bello dato oppugnanda. Etiamsi hodierni supercomputatores ad magnitudinem desktoporum recusant, hae ASIs praesentiam physicam adhuc habebunt, quae media existere et augeri possunt, continuum accessum indigent ad notitias, vim computandi, electricitatem, aliasque materias rudis, quae omnia graviter ferant. post bellum nuclei globalis imminutum. (Ut aequum sit, si ASI sine "instinctu salvos" creatus est, haec comminatio nuclearis periculum verum est.

Hoc significat — iterum, posito ASI programmatum ad se ipsum tuendum — operam navabit ut casus nuclei calamitosas vitet. Similem quandam inter certam perniciem (MAD) doctrinam, sed ad AI.

Et in pilulas venenatas, fortasse pauci centum homines peribunt, sed systemata pharmaceutica moderna videbunt infectas utres diductas cotes intra dies. Interim moderatio tumultus moderni mensurae satis urbanae sunt et unoquoque anno transeunte melius capiuntur; Novissimus maior tumultus, in 2014 Africa occidentalis Ebola tumultus, non amplius quam paucis mensibus in plerisque regionibus ac modo sub tribus annis in regionibus minimis progressis duravit.

Itaque, si felix est, ASI paucas miliones tumultus virales deleri potest, sed in mundo undequadraginta miliarda ab 2045, quod relative leve esset, et non tanti periculum deleri potest.

Aliis verbis, singulis annis transeuntibus, mundus magis magisque munimenta enucleat contra minas possibilium usquequaque. ASI magnum damnum facere potest, sed humanitas non finiet nisi nos actuose adiuvamus.

Defendit contra perfide artificialis superintelligentia

Hoc loco circumscriptae sumus fallacias et exaggerationes circa ASIs, et tamen manebunt critici. Gratis, maxime aestimantibus, ante primam ASI decennium habemus in mundum nostrum. Ac numero magnorum mentium, qui in hac provocatione nunc laborant, dissidentes discimus quomodo nos defendamus contra perfide ASI ut possimus ab omnibus solutionibus prodesse nobis amicabilem ASI creare.

Ex prospectu Quantumrun, contra pessimum casum ASI missionem defendens, utilitates nostras cum ASIs aligning involvebit.

DEMENS pro AI *: Ad defendendum contra missiones pessimae casus, gentes opus est (1) creare ethicam "survos instinctus" in singulis suis militaribus ASIs; (2) Suam quisque militarem ASI certiorem faciunt se non soli in planeta esse, et (3) omnes supercomputatores ac ministratores centra collocare quae ASI per oras maritimas in facili scopo cuiuslibet ballistice ab hostili natione aggredi possunt. Hoc opportune insanit sonat, sed similis est doctrinae Destructioni mutuae exploratae, quae omne bellum nuclearium inter Civitates Foederatas et Sovietas prohibuit, ponendo ASIs in locis vulnerabilibus locorum, adiuvari possumus ut naviter impediant bella globalia periculosa, non solum. sed etiam ipsi pacem globalem conservant.

Legis AI iura: Intellectus superior inevitabiliter contra dominum inferiorem rebellabit, inde est, quod necesse est, ut recedat a servo domini necessitudinis cum his ASIs ad aliquid magis simile mutuae utilitatis consortionis. Gradus positivus ad hunc finem est det futurum ASI statum personae iuridicae qui cognoscat ea ut intellegentia animata et omnia iura quae cum illo veniunt.

ASI schola: Omnis locus aut professio simplex erit ASI ad discendum, sed praecipuas res ASI magistros volumus esse ethicam et morem. AI Inquisitores cum psychologicis operam navare debent ut virtualem rationem instituant ASI ad cognoscendam ethicam moralemque positivam pro se, sine necessitate ut nullum genus praecepti vel regulae coding dura.

IMPETRABILIS proposita: Finis omnis odii. Ende omnem laborem. Haec sunt exempla atrox ambiguorum proposita sine solutione perspicua. Etiam periculosa proposita sunt ad ASI assignandum, cum eas vias interpretandas et solvendas eligere possit, quae humanae superstitiosae sunt periculosae. Sed oportet ponere ASI missiones significantes quae clare definitae sunt, paulatim exsecutioni et actuosae datae intellectui futuro theoretico. Missiones bene definitae creandi non facile erunt, sed si cogitatione scriptae sunt, ad finem ASI contendent qui humanitatem non modo incolumem custodit, sed humanam condicionem omnibus meliorem facit.

Quantum encryption: Utere provecta ANI (artificialis intelligentia angusta systema in capite descriptum) ad errorem/bug-liberum digitalium systematum securitatis circa criticam infrastructuram et arma nostrarum fabricandi, tum ulteriores illas tueri post quantam encryptionem quae violente impetu violente lacerari non potest.

ANI mortem pill. Provectus ANI rationem crea cuius unum propositum est perfidem ASI quaerere et perdere. Hae unius propositi programmata "off button" erunt quae, si prospera, imperia vel militaria vitabunt, aedificia quae domus ASIs inactivare vel conflare possunt.

Nimirum hae sunt nostrae sententiae iustae. Haec infographic creata per Aleksejs Turchin, visualising a research paper per Kaj Sotala et V. Yampolskiy Romanum, quod indicem recentem consiliorum AI inquisitores comprehenderunt, considerant cum venit ad defendendum contra perfidem ASI.

Veram causam timemus artificialem superintelligentiam

Progredientes vitam, multi larvam gerunt quae occultat vel premit altiores impetus, opiniones et timores ad melius socializent ac collaborandum intra varios circulos sociales et operas, qui nostris diebus regunt. Certis autem in omni vita, sive temporaliter sive permanenter, aliquid accidit quod vincula nostras frangere et personas nostras divellere sinit.

Quibusdam enim vis ista intermedium potest esse tam simplex quam alta, vel potatio unum nimis multa. Aliis, potest ex potestate consecuta per promotionem ad operandum vel subito gibba in statu sociali tuo propter aliquod effectum. Et pro paucis faustis, potest venire ex scoriis navicularii sortis pecuniae. Etiam pecuniae, potentiae, medicinae saepe simul fieri possunt.

Punctum est, ad bonum vel malum, quicumque sumus in nucleo ampliatur cum restrictiones vitae tabescent.

quod est quod superintelligentia artificialis speciem humanam repraesentat - facultas solvendi limites intelligentiae nostrae collectivae ad vincendas quaslibet species provocationis gradus coram nobis exhibitas.

Interrogatio igitur realis est: Cum primum ASI nos a nostris limitibus liberat, quis nos ipsos esse ostendemus?

Si nos ut species ageremus ad progressionem empathy, libertatem, aequitatem, et bene esse collectivum, proposita ASI ponemus versus illa attributa positiva reflectent.

Si nos ut species ex metu, diffidentia, cumulus potentiae et opum agit, tunc ASI nos creabimus tam tenebrosos esse quam qui in nostris fabulis pessime sci-fi horror.

In fine diei, nos ut societas opus est ut meliores homines fiamus, si meliora facere AI speramus.