Mākslīgais intelekts. Stratēģijas teksts

Šo grāmatu labi papildina

Spēļu teorija

Avinašs Diksits un Berijs Nalbafs

Brainiac

Kens Dženingss

Prieks par x

Stīvens Strogatzs

Superinteliģence

Ceļi, briesmas, stratēģijas

Niks Bostroms

Mākslīgais intelekts

Posmi. Draudi. stratēģija

"Manns, Ivanovs un Ferbers"

Informācija

no izdevēja

Zinātniskie redaktori M. S. Burcevs, E. D. Kazimirova, A. B. Lavrentjevs

Publicēts ar Aleksandra Koržeņevska aģentūras atļauju

Pirmo reizi izdots krievu valodā

Bostroms, Niks

Mākslīgais intelekts. Posmi. Draudi. Stratēģijas / Niks Bostroms; per. no angļu valodas S. Fiļina. - M.: Manns, Ivanovs un Ferbers, 2016.

ISBN 978-5-00057-810-0

Niks Bostroms savā grāmatā mēģina aptvert problēmu, ar ko saskaras cilvēce saistībā ar superinteliģences rašanos, un analizēt tā reakciju.

Visas tiesības aizsargātas.

Nevienu šīs grāmatas daļu nedrīkst reproducēt nekādā veidā bez autortiesību īpašnieku rakstiskas atļaujas.

Izdevniecības juridisko atbalstu sniedz advokātu birojs "Vegas-Lex"

Šī grāmata sākotnēji tika izdota angļu valodā 2014. gadā. Izdevējs ir pilnībā atbildīgs par šo tulkojumu no oriģinālā darba, un Oxford University Press neuzņemas nekādu atbildību par kļūdām, izlaidumiem vai neprecizitātēm vai neskaidrībām šādā tulkojumā vai par jebkādiem zaudējumiem, kas radušies paļaušanās uz to dēļ.

Partnera priekšvārds

... Man ir viens draugs, - teica Ediks. – Viņš apgalvo, ka cilvēks ir starpposms, kas dabai nepieciešams, lai radītu radīšanas vainagu: glāze konjaka ar citrona šķēli.

Arkādijs un Boriss Strugatski. Pirmdiena sākas sestdien

Autors uzskata, ka nāvējošie draudi ir saistīti ar iespēju radīt mākslīgo intelektu, kas pārspēj cilvēka prātu. Katastrofa var izcelties gan 21.gadsimta beigās, gan tuvākajās desmitgadēs. Visa cilvēces vēsture rāda: kad notiek mūsu sugas pārstāvja Homo sapiens un jebkura cita mūsu planētas apdzīvotāja sadursme, uzvar tas, kurš ir gudrāks. Līdz šim mēs bijām gudrākie, taču mums nav nekādu garantiju, ka tas turpināsies mūžīgi.

Niks Bostroms raksta, ka, ja viedie datoru algoritmi iemācīsies patstāvīgi izveidot vēl gudrākus algoritmus, un tie, savukārt, būs vēl gudrāki, notiks mākslīgā intelekta sprādzienbīstams pieaugums, salīdzinājumā ar kuru cilvēki līdzās izskatīsies kā skudras, intelektuālā nozīmē, protams. Pasaulē parādīsies jauna, lai arī mākslīga, bet superinteliģenta suga. Nav svarīgi, kas viņam "nāk prātā", mēģinājums padarīt visus cilvēkus laimīgus vai lēmums visefektīvākajā veidā apturēt antropogēno pasaules okeāna piesārņojumu, tas ir, iznīcinot cilvēci, cilvēki nespēs pretoties. šis vienalga. Nav izredžu uz Terminatora stila konfrontāciju, nav apšaudes ar dzelzs kiborgiem. Mūs sagaida šahs un rūts - kā duelī starp Deep Blue šaha datoru un pirmklasnieku.

Pēdējo simts vai divu gadu laikā zinātnes sasniegumi dažos ir modinājuši cerību uz visu cilvēces problēmu atrisinājumu, savukārt citos tie izraisījuši un izraisa neierobežotas bailes. Tajā pašā laikā, jāsaka, abi viedokļi izskatās diezgan pamatoti. Zinātnes sakauts briesmīgas slimības, cilvēce mūsdienās spēj pabarot vēl nebijušu cilvēku skaitu, un no viena zemeslodes punkta uz pretējo var nokļūt mazāk nekā diennakts laikā. Taču ar tās pašas zinātnes žēlastību cilvēki, izmantojot jaunākās militārās tehnoloģijas, iznīcina viens otru ar milzīgu ātrumu un efektivitāti.

Līdzīgu tendenci – kad tehnoloģiju straujā attīstība ne tikai noved pie jaunu iespēju veidošanās, bet arī rada nebijušus draudus – novērojam arī informācijas drošības jomā. Visa mūsu nozare ir radusies un pastāv tikai tāpēc, ka tādu brīnišķīgu lietu kā datori un internets radīšana un masveida izplatīšana ir radījusi problēmas, kuras pirmsdatoru laikmetā nebūtu iespējams iedomāties. Informācijas tehnoloģiju rašanās rezultātā cilvēku komunikācijā ir notikusi revolūcija. Tostarp visādi kibernoziedznieki to izmantoja. Un tikai tagad cilvēce pamazām sāk apzināties jaunus riskus: arvien vairāk fiziskās pasaules objektu kontrolē datori un programmatūra bieži vien nepilnīgs, caurumu pilns un neaizsargāts; arvien vairāk šādu vietņu ir savienotas ar internetu, un kibermiera radītie draudi strauji kļūst par fiziskās drošības problēmu un, iespējams, dzīvību un nāvi.

Tāpēc Nika Bostroma grāmata šķiet tik interesanta. Pirmais solis, lai novērstu murgainus scenārijus (vienam datortīklam vai visai cilvēcei), ir saprast, kas tie varētu būt. Bostroms izsaka daudzas atrunas, ka mākslīgā intelekta radīšana, kas ir salīdzināma ar cilvēka prātu vai par to pārāka - mākslīgais intelekts, kas spēj iznīcināt cilvēci, ir tikai iespējamais scenārijs, kas var netikt īstenots. Protams, ir daudz iespēju, un datortehnoloģiju attīstība var neiznīcināt cilvēci, bet sniegs mums atbildi uz "galveno jautājumu par dzīvību, Visumu un visu to" (varbūt tiešām izrādās, ka tas ir skaitlis 42 , kā romānā "Galaktikas ceļvedis stopotājam") ... Cerība ir, taču briesmas ir ļoti nopietnas – mūs brīdina Bostroms. Manuprāt, ja pastāv šāda eksistenciāla apdraudējuma iespējamība cilvēcei, tad pret to ir attiecīgi jāizturas, un, lai tos novērstu un pasargātu sevi no tiem, kopīgiem spēkiem jārīkojas globālā mērogā.

Savu ievadu vēlos pabeigt ar citātu no Mihaila Vellera grāmatas "Cilvēks sistēmā":

Kad fantastika, tas ir, cilvēka doma, kas ierāmēta tēlos un sižetos, kaut ko atkārto ilgi un detalizēti - nu, nav dūmu bez uguns. Banālas Holivudas asa sižeta filmas par kariem starp cilvēkiem un robotu civilizāciju nes rūgtu patiesības graudu zem komerciāla šova mizas.

Kad robotos tiks iebūvēta pārraidītā instinktu programma, un šo instinktu apmierināšana tiks iebūvēta kā beznosacījuma un pamatvajadzība, un tas nonāks pašizaugsmes līmenī - tad, puiši, pārtrauciet cīnīties ar smēķēšanu un alkoholu, jo mums visiem laiks dzert un pīpēt hanas priekšā.

Kas notiek, ja mašīnas intelekta ziņā pārspēj cilvēkus? Vai viņi mums palīdzēs vai iznīcinās cilvēku rasi? Vai mūsdienās varam ignorēt mākslīgā intelekta attīstības problēmu un justies pilnīgi droši? Niks Bostroms savā grāmatā mēģina aptvert problēmu, ar ko saskaras cilvēce saistībā ar superinteliģences rašanos, un analizēt tā reakciju. Pirmo reizi izdots krievu valodā.

* * *

Dotais grāmatas ievada fragments Mākslīgais intelekts. Posmi. Draudi. Stratēģijas (Niks Bostroms, 2014) nodrošina mūsu grāmatu partneris - kompānija Liters.

Otrā nodaļa

Ceļš uz superprātu

Mūsdienās, ja ņemam vērā vispārējās intelektuālās attīstības līmeni, mašīnas ir absolūti zemākas par cilvēkiem. Bet kādu dienu — saskaņā ar mūsu pieņēmumu — mašīnas prāts pārspēs cilvēka prātu. Kāds būs mūsu ceļš no šī brīža līdz tam, kas mūs sagaida? Šajā nodaļā ir aprakstītas vairākas iespējamās tehnoloģiskās iespējas. Vispirms mēs aplūkosim tādas tēmas kā mākslīgais intelekts, pilnīga smadzeņu emulācija, cilvēka kognitīvā uzlabošana, neirodatora saskarne, tīkli un organizācijas. Pēc tam no varbūtības viedokļa izvērtēsim uzskaitītos aspektus, vai tie var kalpot kā pakāpšanās uz virsprātu. Izmantojot vairākus ceļus, iespēja kādreiz sasniegt galamērķi ir acīmredzami palielināta.

Sākotnēji definēsim superinteliģences jēdzienu. Šis jebkurš intelekts, kas būtiski pārsniedz cilvēka kognitīvās spējas praktiski jebkurā jomā(87). Nākamajā nodaļā mēs sīkāk apspriedīsim, kas ir superinteliģence, sadalīsim to sastāvdaļās un nošķirsim visus iespējamos iemiesojumus. Bet tagad aprobežosimies ar šādu vispārīgu un virspusēju raksturlielumu. Ņemiet vērā, ka šajā aprakstā nebija vietas nedz superprāta īstenošanai dzīvē, nedz tā kvalifikācijai, tas ir, vai tas būs apveltīts ar subjektīviem pārdzīvojumiem un apziņas pieredzi. Bet savā ziņā, īpaši ētiskā, jautājums ir ļoti svarīgs. Tomēr tagad, atstājot malā intelektuālo metafiziku (88), pievērsīsim uzmanību diviem jautājumiem: superinteliģences rašanās priekšnoteikumiem un šīs parādības sekām.

Saskaņā ar mūsu definīciju, Deep Fritz šaha programma nav superinteliģenta, jo tā ir "spēcīga" tikai ļoti šaurā - šaha spēles - zonā. Tomēr ir ļoti svarīgi, lai superinteliģencei būtu savas mācību priekšmetu specializācijas. Tāpēc katru reizi, kad runa ir par noteiktu superintelektuālu uzvedību, kas ir ierobežota ar priekšmetu, es atsevišķi norādīšu tās konkrēto darbības jomu. Piemēram, mākslīgais intelekts, kas programmēšanas un dizaina jomās ievērojami pārsniedz cilvēka prāta spējas, tiks saukts par superinteliģentu inženieriju. Bet, lai apzīmētu sistēmas vispār pārāks par vispārējo cilvēka intelekta līmeni - ja nav norādīts citādi - termins paliek superprāts.

Kā mēs nonākam līdz brīdim, kad ir iespējams viņam parādīties? Kuru ceļu izvēlēsimies? Apskatīsim dažas no iespējām.

Mākslīgais intelekts

Cienījamais lasītāj, negaidiet, ka šajā nodaļā tiks konceptualizēts, kā izveidot universālu vai spēcīgu mākslīgo intelektu. Tā programmēšanas projekts vienkārši neeksistē. Bet pat ja es būtu laimīgā šāda plāna īpašniece, es to noteikti nepublicētu savā grāmatā. (Ja iemesli vēl nav acīmredzami, es ceru, ka nākamajās nodaļās es varēšu skaidri precizēt savu nostāju.)

Tomēr pat šodien ir iespējams atpazīt dažas būtiskas īpašības, kas raksturīgas šādai viedai sistēmai. Ir pilnīgi skaidrs, ka mācīšanās spējas kā sistēmas kodola neatņemama īpašība ir jāiekļauj dizainā, nevis jāpievieno kā pārdomas paplašinājuma veidā. Tas pats attiecas uz spēju efektīvi strādāt ar nenoteiktu un iespējamu informāciju. Visticamāk, starp galvenajiem mūsdienu AI moduļiem vajadzētu būt rīkiem noderīgas informācijas iegūšanai no datiem no ārējiem un iekšējiem sensoriem un saņemto jēdzienu pārveidošanai elastīgos kombinatoriskos attēlojumos turpmākai izmantošanai domāšanas procesos, kuru pamatā ir loģika un intuīcija.

Pirmās klasiskā mākslīgā intelekta sistēmas galvenokārt nebija vērstas uz mācīšanos, darbu nenoteiktības apstākļos un jēdzienu veidošanu - iespējams, tāpēc, ka tajā laikā nebija pietiekami attīstītas atbilstošās analīzes metodes. Tas nenozīmē, ka visas mākslīgā intelekta pamatidejas ir fundamentāli novatoriskas. Piemēram, ideju izmantot mācīšanos kā līdzekli vienkāršas sistēmas izstrādei un tās nogādāšanai cilvēka līmenī Alans Tjūrings izteica 1950. gadā savā rakstā “Datortehnika un intelekts”, kur viņš izklāstīja savu jēdzienu “mašīna. bērns":

Kāpēc mēs tā vietā, lai mēģinātu izveidot programmu, kas atdarina pieauguša cilvēka prātu, nemēģināt izveidot programmu, kas atdarina bērna prātu? Galu galā, ja bērna prāts ir pareizi izglītots, tas kļūst par pieauguša cilvēka prātu (89).

Tjūrings paredzēja, ka bērna mašīnas izveidei būs nepieciešams iteratīvs process:

Diez vai ar pirmo mēģinājumu mums izdosies dabūt labu "baby car". Ir nepieciešams veikt eksperimentu, lai apgūtu kādu no šāda veida mašīnām un noskaidrotu, kā tā ir piemērota mācībām. Pēc tam veiciet to pašu eksperimentu ar citu iekārtu un noskaidrojiet, kura no divām mašīnām ir labāka. Pastāv acīmredzama saikne starp šo procesu un evolūciju dzīvajā dabā ...

Tomēr var cerēt, ka šis process noritēs ātrāk nekā evolūcija. Labākā izdzīvošana ir pārāk lēns veids, kā novērtēt ieguvumus. Eksperimentētājs, izmantojot intelekta spēku, var paātrināt novērtēšanas procesu. Tikpat svarīgi ir tas, ka tas neaprobežojas tikai ar nejaušām mutācijām. Ja eksperimentētājs var izsekot kāda trūkuma cēloni, viņš, iespējams, var nākt klajā ar tāda veida mutāciju, kas novedīs pie nepieciešamajiem uzlabojumiem (90).

Mēs zinām, ka aklie evolūcijas procesi var izraisīt vispārējas inteliģences rašanos cilvēka līmenī – vismaz vienu reizi tas ir noticis. Prognozējot evolūcijas procesus – tas ir, ģenētisko programmēšanu, kur algoritmus izstrādā un kontrolē inteliģents cilvēka programmētājs – mums vajadzētu iegūt līdzīgus rezultātus ar daudz lielāku efektivitāti. Tieši uz šo nostāju paļaujas daudzi zinātnieki, tostarp filozofs Deivids Čalmers un pētnieks Hanss Moraveks (91), kuri apgalvo, ka IHCU ir ne tikai teorētiski iespējams, bet arī praktiski īstenojams 21. gadsimtā. Pēc viņu domām, intelekta radīšanā, vērtējot evolūcijas un cilvēka inženierijas relatīvās iespējas, atklāsim, ka pēdējā daudzās jomās ievērojami pārspēj evolūciju un, visticamāk, pārējā to diezgan ātri apsteigs. Tādējādi, ja reiz dabiskais intelekts radās evolūcijas procesu rezultātā, tad no tā izriet, ka cilvēku dizaini dizaina un attīstības jomā drīz varēs mūs novest pie mākslīgā intelekta. Piemēram, Moraveks 1976. gadā rakstīja:

Tam, ka pastāv vairāki izlūkošanas piemēri, kas parādās šāda veida ierobežojumu apstākļos, mums jārada pārliecība, ka mēs ļoti drīz varēsim sasniegt to pašu. Situācija ir līdzīga tādu aparātu radīšanas vēsturē, kas spēj lidot, lai gan tie ir smagāki par gaisu: putni, sikspārņi un kukaiņi ir skaidri pierādījuši šo spēju ilgi pirms cilvēku radītās lidošanas iekārtas (92).

Tomēr jābūt uzmanīgiem ar secinājumiem, kas balstīti uz šādu spriešanas ķēdi. Protams, nav šaubu, ka necilvēcīgu dzīvu radījumu, kas ir smagāki par gaisu, lidojums evolūcijas rezultātā kļuva iespējams daudz agrāk, nekā tas izdevās cilvēkiem – tomēr tas izdevās ar mehānismu palīdzību. Lai to pamatotu, var atgādināt citus piemērus: sonāru sistēmas; Magnetometriskās navigācijas sistēmas; ķīmiskās kaujas vielas; fotosensori un citas ierīces ar mehāniskās un kinētiskās efektivitātes raksturlielumiem. Taču ar tādiem pašiem panākumiem mēs uzskaitīsim jomas, kurās cilvēka pūliņu efektivitāte vēl ir ļoti tālu no evolūcijas procesu efektivitātes: morfoģenēze; pašatveseļošanās mehānismi; imūnā aizsardzība. Tādējādi Moraveca argumentācija “nedod mums pārliecību”, ka IIUCH tiks izveidots “ļoti drīz”. Labākajā gadījumā intelekta radīšanas sarežģītības augšējā robeža var būt saprātīgas dzīvības attīstība uz Zemes. Taču cilvēces pašreizējām tehnoloģiskajām iespējām šis līmenis joprojām ir nesasniedzams.

Vēl viens arguments par labu mākslīgā intelekta attīstībai pēc evolūcijas procesa modeļa ir iespēja palaist ģenētiskos algoritmus uz diezgan jaudīgiem procesoriem un rezultātā sasniegt rezultātus, kas salīdzināmi ar tiem, kas iegūti bioloģiskās evolūcijas gaitā. Tādējādi šai argumentācijas versijai ir jāuzlabo AI, izmantojot īpašu metodi.

Cik patiess ir apgalvojums, ka diezgan drīz mūsu rīcībā būs pietiekami daudz skaitļošanas resursu, lai reproducētu atbilstošos evolūcijas procesus, kuru rezultātā veidojās cilvēka intelekts? Atbilde ir atkarīga no šādiem nosacījumiem: pirmkārt, vai nākamajās desmitgadēs tiks sasniegts būtisks progress datortehnoloģiju jomā; otrkārt, cik liela skaitļošanas jauda būtu nepieciešama, lai mehānismi, kas iedarbinātu ģenētiskos algoritmus, būtu līdzīgi dabiskajai atlasei, kas noveda pie cilvēka rašanās. Jāsaka, ka secinājumi, pie kuriem mēs nonākam mūsu argumentācijas ķēdē, ir ārkārtīgi neskaidri; taču, neskatoties uz šo atturošo faktu, joprojām šķiet lietderīgi mēģināt sniegt vismaz aptuvenu šīs versijas novērtējumu (sk. 3. izcēlumu). Ja nav citu iespēju, pat aptuveni aprēķini pievērsīs uzmanību dažiem ziņkārīgiem nezināmajiem.

Būtība ir tāda, ka skaitļošanas jauda, kas nepieciešama tikai nepieciešamo evolūcijas procesu reproducēšanai, kas noveda pie cilvēka intelekta rašanās, ir praktiski nesasniedzama un tāda paliks ilgu laiku, pat ja Mūra likums paliks spēkā vēl vienu gadsimtu (sk. 3. attēlu). zemāk). Tomēr ir pilnīgi pieņemama izeja: mēs lielā mērā ietekmēsim efektivitāti, ja tā vietā, lai tiešā veidā atkārtosim dabiskos evolūcijas procesus, mēs izstrādāsim meklēšanas mehānismu, kas vērsts uz intelekta radīšanu, izmantojot dažādas acīmredzamas priekšrocības salīdzinājumā ar dabisko atlasi. Protams, šobrīd ir ļoti grūti kvantificēt efektivitātes pieaugumu. Mēs pat nezinām, par kādām lielumiem mēs runājam – par pieciem vai divdesmit pieciem. Tāpēc, ja uz evolūcijas modeļa balstītā argumentācija nebūs pareizi izstrādāta, mēs nespēsim attaisnot savas cerības un nekad neuzzināsim, cik grūti ir ceļi uz cilvēka līmeņa mākslīgo intelektu un cik ilgi mēs varam sagaidīt tā parādīšanos.

3. lodziņš. Evolūcijas procesa reproducēšanas centienu novērtējums

Ne visi ar cilvēka prātu saistītie antropoģenēzes sasniegumi ir vērtīgi mūsdienu speciālistiem, kas strādā pie mākslīgā intelekta evolūcijas attīstības problēmas. Darbībā nonāk tikai neliela daļa no tā, kas uz Zemes ir izrādījies dabiskās atlases rezultātā. Piemēram, problēmas, kuras cilvēki nevar ignorēt, ir tikai nelielu evolūcijas pasākumu rezultāts. Jo īpaši, tā kā mēs varam darbināt savus datorus ar elektrību, mums nav nepieciešams no jauna izgudrot šūnu enerģijas ekonomikas sistēmas molekulas, lai radītu viedas mašīnas - un galu galā vielmaiņas mehānisma molekulārajai attīstībai, ļoti iespējams, bija nepieciešama ievērojama daļa. no kopējiem mūsu rīcībā esošās dabiskās atlases jaudas izdevumiem.evolūcija visā Zemes vēsturē (93).

Pastāv uzskats, ka mākslīgā intelekta radīšanas atslēga ir nervu sistēmas struktūra, kas parādījās mazāk nekā pirms miljarda gadu (94). Ja mēs pieņemsim šo nostāju, evolūcijai nepieciešamo "eksperimentu" skaits ievērojami samazināsies. Mūsdienās pasaulē ir aptuveni (4–6) × 1030 prokarioti, bet tikai 1019 kukaiņi un mazāk nekā 1010 cilvēku rases pārstāvji (starp citu, neolīta revolūcijas priekšvakarā iedzīvotāju skaits bija par lielumu mazāks) (95). Piekrītu, šie skaitļi nav tik biedējoši.

Tomēr evolūcijas algoritmiem ir nepieciešamas ne tikai dažādas iespējas, bet arī katras opcijas piemērotības novērtējums - parasti visdārgākā komponente skaitļošanas resursu ziņā. Mākslīgā intelekta evolūcijas gadījumā fiziskās sagatavotības novērtēšanai, visticamāk, ir nepieciešama nervu attīstības modelēšana, kā arī spēja mācīties un izzināt. Tāpēc labāk nav aplūkot kopējo organismu skaitu ar sarežģītu nervu sistēmu, bet gan novērtēt neironu skaitu bioloģiskajos organismos, kas mums, iespējams, būs jāmodelē, lai aprēķinātu evolūcijas objektīvo funkciju. Aptuvenu aprēķinu var veikt, atsaucoties uz kukaiņiem, kas dominē sauszemes biomasā (skudras vien veido 15–20 %) (96). Kukaiņu smadzeņu apjoms ir atkarīgs no daudziem faktoriem. Jo lielāks un sabiedriskāks kukainis (tas ir, vada sabiedrisku dzīvesveidu), jo lielākas ir tā smadzenes; Piemēram, bitei ir nedaudz mazāk par 106 neironiem, Drosophilai ir 105 neironi, starp tiem atrodas skudra ar saviem 250 tūkstošiem neironu (97). Lielākajai daļai mazāko kukaiņu smadzenēs ir tikai daži tūkstoši neironu. Es ierosinu ar īpašu piesardzību apstāties pie vidējās vērtības (105) un visus kukaiņus (kuru pasaulē kopā ir 1019) pielīdzināt Drosophila, tad kopējais to neironu skaits būs 1024. Pievienosim secību lieluma dēļ vēžveidīgajiem, putniem, rāpuļiem, zīdītājiem utt. - un mēs iegūstam 1025. (Salīdziniet to ar faktu, ka pirms lauksaimniecības parādīšanās uz planētas dzīvoja mazāk nekā 107 cilvēki, un katram bija aptuveni 1011 neironi - tas ir, visu neironu kopējā summa bija mazāka par 1018, lai gan cilvēka smadzenēs bija un ir daudz vairāk sinapses.)

Aprēķinu izmaksas viena neirona modelēšanai ir atkarīgas no vajadzīgās modeļa detalizācijas pakāpes. Ļoti vienkāršam reāllaika neironu modelim ir nepieciešamas aptuveni 1000 peldošā komata operācijas sekundē (turpmāk tekstā FLOPS). Elektro- un fizioloģiski reālistiskam Hodžkina-Hukslija modelim ir nepieciešami 1 200 000 FLOPS. Sarežģītāks daudzkomponentu neironu modelis pievienotu divas līdz trīs lieluma kārtas, bet modelis vairāk augsts līmenis Lai darbotos ar neironu sistēmām, vienam neironam ir nepieciešams par divām līdz trim kārtām mazāk darbību nekā vienkāršiem modeļiem (98). Ja mums vajadzēs modelēt 1025 neironus miljarda gadu evolūcijas laikā (tas ir vairāk nekā nervu sistēmu dzīves ilgums to pašreizējā formā) un mēs ļausim datoriem strādāt ar šo uzdevumu gadu, tad prasības to skaitļošanas jaudai samazināsies. diapazonā no 1031-1044 FLOPS ... Salīdzinājumam, pasaulē superjaudīgākais dators ķīniešu Tianhe-2 (2013. gada septembrī) spēj tikai 3,39 × 1016 FLOPS. Pēdējo desmitgažu laikā parastie datori ir palielinājuši savu veiktspēju par lielumu aptuveni ik pēc 6,7 gadiem. Pat ja skaitļošanas jauda pieaugs saskaņā ar Mūra likumu gadsimta laikā, ar to nepietiks, lai pārvarētu esošo plaisu. Izmantojot specializētākas skaitļošanas sistēmas vai palielinot aprēķina laiku, enerģijas prasības var samazināt tikai par lielumu kārtām.
Visticamāk, ka šāda veida neefektivitātes novēršana ietaupīs vairākas kārtas ar nepieciešamo jaudu 1031-1044 FLOPS iepriekš aprēķinātajā. Diemžēl grūti precīzi pateikt, cik. Grūti sniegt pat aptuvenu aplēsi – var tikai minēt, vai tās būs piecas kārtas, desmit vai divdesmit piecas (101).

Rīsi. 3. Lieljaudas datoru veiktspēja. Burtiskā nozīmē tas, ko sauc par "Mūra likumu", ir novērojums, ka integrālās shēmas mikroshēmā ievietoto tranzistoru skaits dubultojas aptuveni ik pēc diviem gadiem. Tomēr likums bieži tiek vispārināts, pieņemot, ka arī citi datora veiktspējas rādītāji pieaug eksponenciāli. Mūsu diagramma parāda pasaules jaudīgāko datoru maksimālā ātruma laika svārstības (logoloģiskajā vertikālajā skalā). Pēdējos gados secīgo aprēķinu ātrums ir pārstājis augt, taču paralēlo aprēķinu izplatības dēļ kopējais operāciju skaits turpina pieaugt tādā pašā tempā (102).

Ir vēl viena komplikācija, kas saistīta ar evolūcijas faktoriem, kas tiek izvirzīti kā pēdējais arguments. Problēma ir tā, ka mēs nevaram aprēķināt – pat ļoti aptuveni – augšējo robežu grūtībām iegūt intelektu evolucionārā veidā. Jā, saprātīga dzīvība kādreiz parādījās uz Zemes, taču šis fakts vēl neseko evolūcijas procesiem augsta pakāpe varbūtības rada inteliģenci. Šāds secinājums būtu fundamentāli kļūdains, jo tajā nav ņemts vērā tā sauktais atlases novērošanas efekts, kas nozīmē, ka visi novērotāji atrodas uz planētas, kur radās saprātīga dzīvība, neatkarīgi no tā, cik iespējams vai maz ticams, ka šāds notikums uz jebkuras vietas ir. cita planēta. Pieņemsim, ka saprātīgas dzīvības rašanās gadījumā papildus sistemātiskām dabiskās atlases kļūdām ir nepieciešams liels daudzums laimīgas sakritības- tik liela, ka saprātīga dzīvība parādījās tikai uz vienas no 1030 planētām, kur pastāv vienkārši replikatora gēni. Šajā gadījumā pētnieki, kuri izmanto ģenētiskos algoritmus, cenšoties reproducēt evolūcijas radīto, var saskarties ar faktu, ka būs nepieciešamas aptuveni 1030 iterācijas, pirms viņi atradīs kombināciju, kurā visi elementi saskaitās pareizi. Šķiet, ka tas atbilst mūsu novērojumam, ka dzīvība radās un attīstījās šeit uz Zemes. Šo epistemoloģisko barjeru daļēji var apiet ar rūpīgiem un nedaudz apgrūtinošiem loģiskiem soļiem - analizējot ar intelektu saistīto īpašību konverģentas evolūcijas gadījumus un ņemot vērā novērošanas ietekmi atlasē. Ja zinātnieki neuzņemsies pūles, lai veiktu šādu analīzi, tad nākotnē nevienam no viņiem nebūs jānovērtē maksimālā vērtība un jānoskaidro, cik liela ir nepieciešamās skaitļošanas jaudas augšējā robeža, lai reproducētu intelekta evolūciju ( skatīt 3. aili) var būt zem trīsdesmitās kārtas (vai kāds cits tikpat liels izmērs) (103).

Pāriesim pie nākamais variants Mūsu mērķa sasniegšana: cilvēka smadzeņu darbība tiek argumentēta par mākslīgā intelekta evolūcijas iespējamību, ko dēvē par AI pamatmodeli. Dažādas šīs pieejas versijas atšķiras tikai pēc vairošanās pakāpes – cik precīzi tiek piedāvāts atdarināt bioloģisko smadzeņu funkcijas. Pie viena staba, kas ir sava veida "imitācijas spēle", mums ir koncepcija pilna smadzeņu emulācija, tas ir, pilna mēroga smadzeņu simulācija (pie tā atgriezīsimies nedaudz vēlāk). Otra galējība ir tehnoloģijas, kur smadzeņu funkcionalitāte ir tikai sākumpunkts, bet zema līmeņa modelēšanas attīstība nav plānota. Galu galā mēs tuvosimies vispārējai smadzeņu darbības idejai, ko veicina neirozinātnes un kognitīvās psiholoģijas sasniegumi, kā arī nepārtraukta rīku un aparatūras uzlabošana. Jaunas zināšanas neapšaubāmi kļūs par vadlīnijām turpmākajā darbā ar AI. Mēs jau zinām AI piemēru, kas radies smadzeņu darba modelēšanas rezultātā – tie ir neironu tīkli. Vēl viena ideja, kas ņemta no neirozinātnes un pārnesta uz mašīnmācību, ir uztveres hierarhiskā organizācija. Mācību pastiprināšanas izpēti (vismaz daļēji) ir virzījusi svarīgā loma, kāda tēmai ir psiholoģiskajās teorijās, kas apraksta dzīvnieku uzvedību un domāšanu, kā arī pastiprināšanas mācīšanās metodes (piemēram, TD algoritms). Mūsdienās mākslīgā intelekta sistēmās plaši izmanto pastiprināšanas mācības (104). Nākotnē noteikti būs vēl šādi piemēri. Tā kā smadzeņu darbības pamatmehānismu kopums ir ļoti ierobežots – patiesībā tādu ir ļoti maz –, visi šie mehānismi agri vai vēlu tiks atklāti, pateicoties pastāvīgajiem sasniegumiem neirozinātnēs. Taču iespējams, ka zināma hibrīda pieeja finišā nonāks vēl agrāk, apvienojot modeļus, kas izstrādāti, no vienas puses, balstoties uz cilvēka smadzeņu darbību, no otras – tikai uz mākslīgā intelekta tehnoloģiju bāzes. Nepavisam nav nepieciešams, lai radītā sistēma it visā atgādinātu smadzenes, pat ja tās izveidē tiks izmantoti daži no tās darbības principiem.

Cilvēka smadzeņu darbība kā pamatmodelis ir spēcīgs arguments mākslīgā intelekta izveides un tālākas attīstības iespējamībai. Tomēr neviens pat visspēcīgākais arguments neļaus mūs tuvāk izprast nākotnes laika grafikus, jo ir grūti paredzēt, kad kāds konkrēts atklājums neirozinātnē notiks. Varam teikt tikai vienu: jo dziļāk skatīsimies nākotnē, jo lielāka iespēja, ka smadzeņu darbības noslēpumi tiks pilnībā atklāti mākslīgā intelekta sistēmu ieviešanai.

Pētniekiem, kas strādā mākslīgā intelekta jomā, ir dažādi viedokļi par to, cik daudzsološa ir neiromorfiskā pieeja salīdzinājumā ar tehnoloģijām, kuru pamatā ir pilnībā kompozīcijas pieejas. Putnu lidojums parādīja fizisku iespēju parādīties par gaisu smagākiem lidojošiem mehānismiem, kas galu galā noveda pie lidojošu transportlīdzekļu uzbūves. Tomēr pat pirmās lidmašīnas, kas pacēlās gaisā, nepapludināja spārnus. Uz ko ceļš ies mākslīgā intelekta attīstība? Jautājums paliek atklāts: pēc aerodinamikas likuma principa noturēt gaisā smagos dzelzs mehānismus - tas ir, mācoties no dzīvās dabas, bet nevis to tieši atdarinot; pēc iekšdedzes dzinēja ierīces principa - tas ir, tieši kopējot dabas spēku darbības.

Tjūringa koncepcija izstrādāt programmu, kas saņem b O Lielākā daļa zināšanu apmācībā, nevis sākotnējo datu precizēšanas rezultātā ir piemērojamas mākslīgā intelekta radīšanai - gan neiromorfiskai, gan kompozicionālai pieejai.

Tjūringa koncepcijas "bērna mašīna" variācija bija ideja par AI embriju (105). Tomēr, ja "mašīnas bērnam", kā to paredzēja Tjūrings, vajadzētu būt ar relatīvi fiksētu arhitektūru un attīstīt savu potenciālu, akumulējot saturu, AI dīglis būs sarežģītāka sistēma, kas pati pilnveidosies arhitektūra... Savas pastāvēšanas sākumposmā mākslīgā intelekta dīglis attīstās galvenokārt informācijas savākšanas ceļā, rīkojoties izmēģinājumu un kļūdu ceļā, ar programmētāja palīdzību. “Pieaugot”, viņam jāmācās pašam atrisināt viņa darba principos, lai varētu izstrādāt jaunus algoritmus un skaitļošanas struktūras, kas paaugstina viņa kognitīvo efektivitāti. Nepieciešamā izpratne ir iespējama tikai tajos gadījumos, kad AI dīgļi vai daudzās jomās ir sasnieguši diezgan augstu vispārējais līmenis intelektuālā attīstība vai atsevišķās mācību jomās - teiksim, kibernētika un matemātikā - ir pārvarējusi noteiktu intelektuālo slieksni.

Tas mūs noved pie cita svarīga jēdziena, ko sauc par rekursīvu sevis pilnveidošanu. Veiksmīgam mākslīgā intelekta embrijam ir jāspēj nepārtraukti pašattīstīties: pirmā versija rada sev uzlabotu versiju, kas ir daudz gudrāka par oriģinālu; uzlabotā versija savukārt darbojas ar vēl labāku versiju utt. (106.). Dažos apstākļos rekursīvas sevis pilnveidošanas process var turpināties diezgan ilgu laiku un galu galā novest pie mākslīgā intelekta eksplozīvās attīstības. Tas attiecas uz notikumu, kura gaitā sistēmas vispārējais intelekts īsā laika posmā pieaug no salīdzinoši pieticīga līmeņa (iespējams daudzos aspektos, izņemot programmēšanu un pētniecību AI jomā, pat zemāk par cilvēka līmeni) līdz superinteliģentam līmenim, kas radikāli pārsniedz cilvēka līmeni. Ceturtajā nodaļā mēs atgriezīsimies pie šīs perspektīvas, kas ir ļoti svarīga savā nozīmīgumā, un sīkāk analizēsim notikumu attīstības dinamiku.

Lūdzu, ņemiet vērā, ka šis attīstības modelis liecina par pārsteigumu iespējamību. Mēģinājumi izveidot universālu mākslīgo intelektu, no vienas puses, var beigties ar pilnīgu neveiksmi, no otras puses, novest pie pēdējā trūkstošā kritiskā elementa - pēc kura AI embrijs kļūs spējīgs uz ilgtspējīgu rekursīvu sevis pilnveidošanu.

Pirms beidzu šo nodaļas daļu, es vēlos uzsvērt vēl vienu lietu: mākslīgo intelektu nemaz nevajag pielīdzināt cilvēka prātam. Es pilnībā pieļauju, ka mākslīgais intelekts kļūs pilnīgi "svešs" - visticamāk, tā arī kļūs. Paredzams, ka mākslīgā intelekta kognitīvā arhitektūra krasi atšķirsies no cilvēku kognitīvās sistēmas; piemēram, sākumposmā kognitīvajai arhitektūrai būs ļoti dažādas stiprās un vājās puses (lai gan, kā redzēsim vēlāk, AI spēs pārvarēt sākotnējās vājās puses). Turklāt uz mērķi orientētām AI sistēmām var nebūt nekāda sakara ar cilvēces mērķu sistēmu. Nav pamata apgalvot, ka vidēja līmeņa AI sāks vadīties no tādām cilvēciskām jūtām kā mīlestība, naids, lepnums – tik sarežģīta adaptācija prasīs milzīgu dārgu darbu, turklāt šādas iespējas rašanās AI. jāizturas ļoti uzmanīgi. Tas ir abi liela problēma, un lieliskas iespējas. Mēs atgriezīsimies pie AI motivēšanas turpmākajās nodaļās, taču šī ideja grāmatai ir tik svarīga, ka ir vērts to visu laiku paturēt prātā.

Pilnīga cilvēka smadzeņu emulācija

Pilna mēroga smadzeņu simulācijas procesā, ko mēs saucam par pilnu smadzeņu emulāciju vai prāta lejupielādi, mākslīgais intelekts tiek izveidots, skenējot un precīzi atkārtojot bioloģisko smadzeņu skaitļošanas struktūru. Tādējādi iedvesma pilnībā jāsmeļas dabā – ārkārtējs klaja plaģiāta gadījums. Lai pilnīga smadzeņu emulācija izdotos, ir jāveic vairākas īpašas darbības.

Pirmais posms. Tiek veikta diezgan detalizēta cilvēka smadzeņu skenēšana. Tas var ietvert mirušās personas smadzeņu fiksēšanu, izmantojot stiklināšanu vai stiklināšanu (tā rezultātā audi kļūst cieti kā stikls). Pēc tam ar vienu iekārtu no audiem tiek izgatavotas plānas sekcijas, kuras tiek izlaistas caur citu iekārtu skenēšanai, iespējams, izmantojot elektronu mikroskopus. Šajā posmā materiāls tiek iekrāsots ar īpašām krāsvielām, lai atklātu tā strukturālo un Ķīmiskās īpašības... Tajā pašā laikā daudzas skenēšanas ierīces darbojas paralēli, vienlaikus apstrādājot dažādas audu sekcijas.

Otrā fāze. Skeneru neapstrādātie dati tiek ielādēti datorā automātiskai attēlu apstrādei, lai rekonstruētu trīsdimensiju neironu tīklu, kas ir atbildīgs par izziņu bioloģiskajās smadzenēs. Lai samazinātu augstas izšķirtspējas momentuzņēmumu skaitu, kas jāsaglabā buferī, šo darbību var veikt vienlaikus ar pirmo. Iegūtā karte tiek apvienota ar neiroskaitļošanas modeļu bibliotēku uz dažāda veida neironiem vai dažādiem neironu elementiem (piemēram, sinapses var atšķirties). Daži skenēšanas un attēlu apstrādes rezultāti, izmantojot modernās tehnoloģijas, ir parādīti attēlā. 4.

Ievada fragmenta beigas.

Niks Bostroms

Mākslīgais intelekts. Posmi. Draudi. stratēģija

Niks Bostroms

Superinteliģence

Ceļi, briesmas, stratēģijas

Zinātniskie redaktori M. S. Burcevs, E. D. Kazimirova, A. B. Lavrentjevs

Publicēts ar Aleksandra Koržeņevska aģentūras atļauju

Izdevniecības juridisko atbalstu sniedz advokātu birojs "Vegas-Lex"

* * *

Šo grāmatu labi papildina

Spēļu teorija

Avinašs Diksits un Berijs Nalbafs

Kens Dženingss

Prieks par x

Stīvens Strogatzs

Partnera priekšvārds

... Man ir viens draugs, - teica Ediks. – Viņš apgalvo, ka cilvēks ir starpposms, kas dabai nepieciešams, lai radītu radīšanas vainagu: glāze konjaka ar citrona šķēli.

Arkādijs un Boriss Strugatski. Pirmdiena sākas sestdien

Pēdējo simts vai divu gadu laikā zinātnes sasniegumi dažos ir modinājuši cerību uz visu cilvēces problēmu atrisinājumu, savukārt citos tie izraisījuši un izraisa neierobežotas bailes. Tajā pašā laikā, jāsaka, abi viedokļi izskatās diezgan pamatoti. Pateicoties zinātnei, ir uzveiktas šausmīgās slimības, cilvēce mūsdienās spēj pabarot nepieredzēti daudz cilvēku, un no viena zemeslodes punkta uz pretējo var nokļūt mazāk nekā diennakts laikā. Taču ar tās pašas zinātnes žēlastību cilvēki, izmantojot jaunākās militārās tehnoloģijas, iznīcina viens otru ar milzīgu ātrumu un efektivitāti.

Līdzīgu tendenci – kad tehnoloģiju straujā attīstība ne tikai noved pie jaunu iespēju veidošanās, bet arī rada nebijušus draudus – novērojam arī informācijas drošības jomā. Visa mūsu nozare ir radusies un pastāv tikai tāpēc, ka tādu brīnišķīgu lietu kā datori un internets radīšana un masveida izplatīšana ir radījusi problēmas, kuras pirmsdatoru laikmetā nebūtu iespējams iedomāties. Informācijas tehnoloģiju rašanās rezultātā cilvēku komunikācijā ir notikusi revolūcija. Tostarp visādi kibernoziedznieki to izmantoja. Un tikai tagad cilvēce pamazām sāk apzināties jaunus riskus: arvien vairāk fiziskās pasaules objektu kontrolē datori un programmatūra, bieži vien nepilnīgi, noplūduši un neaizsargāti; arvien vairāk šādu vietņu ir savienotas ar internetu, un kibermiera radītie draudi strauji kļūst par fiziskās drošības problēmu un, iespējams, dzīvību un nāvi.

Savu ievadu vēlos pabeigt ar citātu no Mihaila Vellera grāmatas "Cilvēks sistēmā":

Jevgeņijs Kasperskis,Kaspersky Lab izpilddirektors

Nepabeigtais stāsts par zvirbuļiem

Reiz ligzdošanas vidū zvirbuļi, noguruši no daudzu dienu smaga darba, saulrietā apsēdās atpūsties un čivināt par šo un to.

"Mēs esam tik mazi, tik vāji. Iedomājieties, cik daudz vieglāk būtu dzīvot, ja mēs turētu pūci par saviem palīgiem! Viens zvirbulis sapņaini čivināja. - Viņa varētu uztaisīt mums ligzdas...

- Aha! Piekritu citam. - Un arī pieskatīt mūsu vecos vīrus un cāļus ...

"Un pamāciet mūs un pasargājiet mūs no kaimiņa kaķa," piebilda trešais.

Tad Pastuss, vecākais zvirbulis, ieteica:

- Ļaujiet izlūkiem lidot dažādos virzienos, meklējot no ligzdas izkritušu pūci. Tomēr pietiks pūces ola, maza vārna un pat zebiekstes mazulis. Šis atradums mūsu baram izrādīsies vislielākā veiksme! Tāpat kā to, ko atradām nebeidzamā graudu avota pagalmā.

Nopietni satraukti, zvirbuļi čivināja, cik vien varēja.

Un tikai viencainais Skronfinkls, kodīgs, smagnējs zvirbulis, šķita, ka šaubījās par šī pasākuma lietderību.

"Mēs esam izvēlējušies postošu ceļu," viņš teica ar pārliecību. "Vai mums nevajadzētu vispirms nopietni apsvērt pūču pieradināšanu un pieradināšanu, pirms ielaist tik bīstamu radījumu savā vidū?"

- Man šķiet, - Pastus viņam iebilda, - pūču pieradināšanas māksla nav viegls uzdevums. Pūces olu atrast ir sasodīti grūti. Tātad sāksim ar meklēšanu. Tagad varēsim izvest pūci, tad domāsim par audzināšanas problēmām.

- Ļauns plāns! Skronfinkls nervozi čivināja.

Bet neviens viņā vairs neklausījās. Pasta virzienā zvirbuļu bars pacēlās gaisā un devās ceļā.

Par grāmatu

Bet mums ir viena būtiska priekšrocība: pirmais solis ir mūsu. Vai ir iespējams radīt mākslīgo intelektu, padarot šo procesu kontrolējamu un drošu? Šajā grāmatā grūtākais...

Izlasiet pilnībā

Par grāmatu
1. grāmata ir par mākslīgā intelekta nākotni un tā radītajām briesmām.

Kas notiek, ja mašīnas intelekta ziņā pārspēj cilvēkus? Vai viņi mums palīdzēs vai iznīcinās cilvēku rasi? Niks Bostroms savā grāmatā izvirza šos jautājumus un runā par cilvēces nākotni un saprātīgu dzīvi.

Cilvēka prātam ir dažas spējas, kuru nav citiem dzīvniekiem. Tieši viņiem mēs varam būt pateicīgi par to, ka mūsu suga ieņem tik dominējošu stāvokli. Ja mašīnas intelekta ziņā pārspēj mūsu cilvēka smadzenes, tās var kļūt ļoti spēcīgas un pat izkļūt no mūsu kontroles. Mūsdienu gorillas, piemēram, ir vairāk atkarīgas no cilvēkiem nekā no pašām gorillām – tas pats var notikt ar cilvēkiem un jauno mašīnu superinteliģenci.

Bet mums ir viena būtiska priekšrocība: pirmais solis ir mūsu. Vai ir iespējams radīt mākslīgo intelektu, padarot šo procesu kontrolējamu un drošu? Šajā grāmatā pieejamā valodā ir aprakstīti vissarežģītākie zinātniskie jautājumi par cilvēces nākotni un mākslīgo intelektu.

Kam šī grāmata ir paredzēta?
Visiem, kam interesē mākslīgais intelekts un cilvēces nākotne.

par autoru
Niks Bostroms ir Oksfordas Universitātes Filozofijas katedras profesors un Cilvēces nākotnes institūta dibinātājs un direktors, starpdisciplinārs pētniecības centrs, kas pēta tehnoloģiju ietekmi uz nākotnes globālas katastrofas iespējamību. Institūta locekļi ir labākie matemātiķi, filozofi un zinātnieki.

Papildus filozofijai Bostroms specializējas neirobioloģijā, matemātiskajā loģikā un fizikā. Viņš ir vairāk nekā 200 zinātnisku publikāciju autors, kā arī Jevgeņa R. Ganona balvas saņēmējs, kas katru gadu tiek piešķirta vienam zinātniekam pasaulē par sasniegumiem filozofijā, matemātikā un dabaszinātnēs.

Niks Bostroms ir jaunākais dalībnieks žurnāla Prospect pasaules vadošo domātāju top 15 sarakstā. Viņa darbi ir tulkoti 22 valodās.

Niks Bostroms

Superinteliģence

Ceļi, briesmas, stratēģijas

Zinātniskie redaktori M. S. Burcevs, E. D. Kazimirova, A. B. Lavrentjevs

Publicēts ar Aleksandra Koržeņevska aģentūras atļauju

Izdevniecības juridisko atbalstu sniedz advokātu birojs "Vegas-Lex"

Šo grāmatu labi papildina

Avinašs Diksits un Berijs Nalbafs

Kens Dženingss

Stīvens Strogatzs

Partnera priekšvārds

... Man ir viens draugs, - teica Ediks. – Viņš apgalvo, ka cilvēks ir starpposms, kas dabai nepieciešams, lai radītu radīšanas vainagu: glāze konjaka ar citrona šķēli.

Arkādijs un Boriss Strugatski. Pirmdiena sākas sestdien

Pēdējo simts vai divu gadu laikā zinātnes sasniegumi dažos ir modinājuši cerību uz visu cilvēces problēmu atrisinājumu, savukārt citos tie izraisījuši un izraisa neierobežotas bailes. Tajā pašā laikā, jāsaka, abi viedokļi izskatās diezgan pamatoti. Pateicoties zinātnei, ir uzveiktas šausmīgās slimības, cilvēce mūsdienās spēj pabarot nepieredzēti daudz cilvēku, un no viena zemeslodes punkta uz pretējo var nokļūt mazāk nekā diennakts laikā. Taču ar tās pašas zinātnes žēlastību cilvēki, izmantojot jaunākās militārās tehnoloģijas, iznīcina viens otru ar milzīgu ātrumu un efektivitāti.

Līdzīgu tendenci – kad tehnoloģiju straujā attīstība ne tikai noved pie jaunu iespēju veidošanās, bet arī rada nebijušus draudus – novērojam arī informācijas drošības jomā. Visa mūsu nozare ir radusies un pastāv tikai tāpēc, ka tādu brīnišķīgu lietu kā datori un internets radīšana un masveida izplatīšana ir radījusi problēmas, kuras pirmsdatoru laikmetā nebūtu iespējams iedomāties. Informācijas tehnoloģiju rašanās rezultātā cilvēku komunikācijā ir notikusi revolūcija. Tostarp visādi kibernoziedznieki to izmantoja. Un tikai tagad cilvēce pamazām sāk apzināties jaunus riskus: arvien vairāk fiziskās pasaules objektu kontrolē datori un programmatūra, bieži vien nepilnīgi, noplūduši un neaizsargāti; arvien vairāk šādu vietņu ir savienotas ar internetu, un kibermiera radītie draudi strauji kļūst par fiziskās drošības problēmu un, iespējams, dzīvību un nāvi.

Savu ievadu vēlos pabeigt ar citātu no Mihaila Vellera grāmatas "Cilvēks sistēmā":

Jevgeņijs Kasperskis,

Kaspersky Lab izpilddirektors

Nepabeigtais stāsts par zvirbuļiem

Reiz ligzdošanas vidū zvirbuļi, noguruši no daudzu dienu smaga darba, saulrietā apsēdās atpūsties un čivināt par šo un to.