Bəşəriyyətin idarə olunmasında “iskin” perspektivləri

2024 Müəllif: Seth Attwood | [email protected]. Son dəyişdirildi: 2023-12-16 15:57

İnsanları idarə etmək üçün süni intellektə etibar etsəniz nə olar? Bizim qanunvericiliyimizdə qanunların 99 faizi bir-biri ilə ziddiyyət təşkil edir. Məntiqlə hakimiyyətin çökməsi və idarəetmə sisteminin dayanması olmalıdır…

İndi o yer haqqında düşünək süni intellekt(bundan sonra - iskin) icad olunduqda və tətbiq olunduqda (əgər) həyatımızda alacaq. Onun daxili mahiyyəti haqqında mübahisə etməməyi təklif edirəm. Bu, Big Data ilə işləmək qabiliyyətinə malik olan və real insanların davranış nümunələrini oxşar şəkildə kopyalaya bilən çox inkişaf etmiş bir alqoritm olsun. Amma əgər istəyirsənsə, qoy müzakirə olunanlar sənin başa düşdüyün kimi əsl kişi olsun.

Burada əsas sual budur. Bu Hammer of Thor onu aldıqdan sonra harda tətbiq edəcəyik? Və prinsipcə, bunun edilə biləcəyinə şübhə yoxdur. Biz rəqəmsal grinders, öz-özünə öyrənmə alqoritmləri də edə bilərik, yığılmış böyük tarix - hər şey var.

Tutaq ki, texniki sistemlərin idarə edilməsində, məsələn, fərdi nəqliyyat vahidləri? - Yaxşı, kamon… Atın öhdəsindən gələ biləcəyini ona həvalə etmək üçün nə üçün ağıllı və mürəkkəb sistem düzəldin? Bir vedrə üçün 10 dollar üçün bir prosessorda kifayət qədər və primitiv bir alqoritm olacaq, nəqliyyatın idarə edilməsində problem yalnız məlumatların əldə edilməsində və etik məsələlərdədir. Bəs onda? On beş saniyə düşünün.

Məncə, yalnız bir var bir iskin üçün əsl şey insanları idarə etməkdir … Daha dəqiq desək, insanların bir hissəsi olduğu proseslər. Bir sıra səbəblərə görə daha aşağı qiymətə dəyişməyin mənası yoxdur. Hər bir insan heç bir xüsusi təlim olmadan insanları idarə etməyə hazırdır. Məsələn, biz hər kəsə öz uşaqlarımızı idarə etmək üçün tamamilə etibar edirik. Həmçinin, komandalarda demək olar ki, hər kəsin ən azı bir qədər idarəçilik təcrübəsi var idi. Heç olmasa səviyyədə “xərəyə bir də kürək atın, biz də apararıq”. Əgər hər kəs insan prinsipcə insanları idarə etməyi bacarır, onda süni intellekt bunu bacarmalıdır, əks halda bu, əqli cəhətdən qüsurlu intellektdir.

Bununla belə, insanları idarə etməyin nəticələri idealdan uzaqdır. İstənilən real nəzarət bir sıra səhvlər və qeyri-dəqiqliklərdir. Üstəlik, səhvlərin sayı demək olar ki, menecerin səviyyəsindən asılı deyil, müəyyən bir sabitdir. Sadəcə olaraq, yükləyicilərin ustası xırda səhvlərə yol verir, qubernatora isə ağır nəticələrə səbəb olan səhvlərə yol vermək hüququ verilir. Biz bunu başa düşürük. “Biz səhv etməliydik” ətraf aləmin, o cümlədən özümüzün əks olunmasının əsas nəticəsidir.

İndi isə bizim əlimizdə "bunu etmək" lazım olan AI var. Və biz onu dərhal tətbiq edəcəyik, çünki nəzəri cəhətdən həll edə biləcəyi problem ən vacib məsələdir. Üç sinif təhsilli Cəmşüt də yük maşını sürməyi bacarır.

Əgər bu barədə mənimlə razısınızsa, o zaman idarə etmək üçün nəzərdə tutulan süni dərinin funksionallığını təqdim etməyə davam edək. O, kimin funksiyalarını yerinə yetirməli, kimi əvəz etməli və ya ən azı öz qərarları ilə gücləndirməlidir?

Aydındır ki, bunlar məmurlar olacaq (həm dövlət idarəçiliyində, həm də biznesdə). Qərarları məmurlar verir. Bütün səlahiyyət səviyyələrində vəzifəli şəxslər qəbul edilir. Məmurlar bu gün vacibdir və lazımdır, çünki qərarlar özlərini qəbul etməyəcək. Ancaq bir məqam var.

Gəlin hər bir idarəçiyə (yəni hər bir məmura) onun əməli fəaliyyətinin hərfi məzmunu baxımından baxaq. Amma onun motivasiyaları mənasında yox - motivasiyaların arxetipi, elə bil, olmamalıdır. Vəzifəli şəxs ya əməliyyatları təsdiq edir, ya da digər vəzifəli şəxs tərəfindən təsdiq edilmiş əməliyyatları ləğv edir.

İdeal maşında bütün əməliyyatlar qeyd-şərtsiz təsdiq edilməlidir və əvvəllər qanuni olaraq təsdiqləndiyi üçün heç bir əməliyyat ləğv edilə bilməz. Bu sistemdə mühüm amil əməliyyatların baxılmaq üçün “qara qutu”dan məmura təqdim edilməsidir. Ona belə bir əməliyyatın nə üçün aparılmalı olduğu və ya başqa məmur tərəfindən təsdiqlənməsi ilə bağlı izahat verilmir. Nəzarət sistemi aşağıdakı kimi qurulur. Yuxarıda bir sıra əməliyyatların aparılması üçün göstəriş şəklində əmr gəlir.

Qeyd edək ki, belə bir sistemin ideoloji quruluşu heç də yuxarıdan, “qara qutu”dan alınan əməliyyatın ləğvi (təsdiq edilməməsi) imkanını nəzərdə tutmur. Amma praktikada belə bir imkan həmişə mövcuddur. Və ən vacib iki şeyi təmin edən odur: hər hansı bir məmurun səlahiyyəti və bu gücün saxlanması.

İzah edim ki, istənilən səhvi (yuxarıda dedik ki, onlar qaçılmaz və daimidir) altında yatan bürokratik kütlələrin müxalifətində əridilə bilər, o zaman səhvin nəticələri minimuma endirilə bilər.

Bununla belə, nəzəri ideal idarəetmə sistemində səhvlər olmamalıdır, bu səbəbdən məmurun rolu əməliyyatların formal təsdiqinə qədər azaldılır, onun təsdiq etməyə bilməz, çünki onlar düzgündür. Yəni buna ehtiyac yoxdur. Beləliklə, sual ilkin idarəetmə siqnalına qədər qaynayır. Düzdürsə, bütün aşağı səviyyələrdə heç bir məna yoxdur.

Deməli, nəzəri olaraq dövlətin icmal büdcəsi işləməlidir. Qəbul edildikdə, onun bütün fraktal mahiyyəti üzə çıxır. Hər bir kapilyar qanın təyin olunmuş hissəsini almalıdır və cavab olaraq - nəzərdə tutulan nəticə. Bəli, ən altda “amma biz betonu vaxtında çatdırmadıq, ona görə də…” yazıları var, amma bağışlayın, bu, ən altdadır və idarəetmə aparatı betona toxunmayan bir çox səviyyələrdən ibarətdir. ümumiyyətlə, əməliyyatlarla fəaliyyət göstərirlər. Başa düşürəm ki, orta səviyyələrdə “beton çatdırılmadı” başqa cür görünür, “kosmodrom tikintisinin vitse-prezidenti 100 milyon oğurladı, ona görə də…” Mən burada ideal sxemdən danışıram.

İdeal dərimizə qayıdaq. Axı, bu vəzifədə o, eyni məsələləri həll etməlidir - əməliyyatların təsdiqlənməsi və ya qadağan edilməsi. Və o bunu edə bilər! Yalnız indi o, bütün idarəetmə səviyyələrini bir anda əvəz edə biləcək. Axı o, naziri əvəz edərək, nazirlər səviyyəsində böyük sövdələşməni təsdiqləyirsə, onun qərarı düzgün hesab edilməlidir. Bu, Kineshmadakı psixiatriya xəstəxanasının eyvanını təmir etmək üçün İP Pupkinin ödənilməsinə qədər böyük bir əməliyyatın bütün sonrakı paylanmasının təhlilini ehtiva edir.

Beləliklə, birincidən aşağı səviyyəli əməliyyatları təsdiqləməyə borclu olan bütün məmurlar zənciri eyni AI alqoritmi ilə etibarlı şəkildə əvəz edilə bilər. Məsələ dibinə qədər artıq həll olunub. Bizim süni intellektimizin bütün zənciri əvəz etmək üçün istifadə edilməsinə belə ehtiyac yoxdur, AI sadəcə olaraq ona olan ehtiyacı aradan qaldırır. Onun qərarı doğrudur, çünki doğrudur. Və dərhal bütün fraktal üçün həllər daxildir.

Qeyd. Bizim real dünyamızda tabe olan hər hansı məmur daha yüksək məmurdan daha ağıllı ola bilər. Sonra müdirin qərarlarını sabotaj edəcək, sonra da ona kömək edəcək. Bu həmişə belədir. Başlanğıc səviyyəsindən başqa, bütün mövcud məmurlar keçmiş rəhbərlərinin yerini tuturlar. Amma bu halda rəqabətdən söhbət gedə bilməz. Bir iskin bütün zəncir boyu hər şeyi özü həll edir, özü ilə ziddiyyət təşkil edə bilməz.

Üstəlik. Bizim idarəçilik sistemində məhkəmələr var ki, bizim onlar haqqında rəyimizdən asılı olmayaraq hər hansı əməliyyatlarımızı ləğv etmək və öz əməliyyatlarını həyata keçirmək səlahiyyəti vermişik. (Qatilin həbsə atılması da qaydalara uyğun əməliyyatdır. Buradakı hakim qara qutudan müəyyən edildiyi kimi ona gələn əməliyyatı təsdiqləyən və ya ləğv edən məmurdur.) Əgər bizim axmaq yaxşıdırsa, deməli, məmurlardan yaxşıdır, çünki onlar üçün (bizim üçün) əməliyyatların təsdiqini və ya ləğvini ona həvalə etmişik. Beləliklə, o, hakimlərdən daha yaxşıdır. Əks halda, iskin qərarlarının insanlar tərəfindən etiraz edilə və ləğv oluna biləcəyi ortaya çıxır. İnsanlar bunu qəbul etsələr, AI-nin insanlardan daha pis olduğunu qəbul edəcəklər. Bəs o, hansı əsasla məmurları əvəz edir?

Nəticə. İskin də mühakimə olunmayacaq. Yenidən. Əgər siz insanlar, ən yaxşı alqoritminizi yazdınızsa, onu o qədər yaxşı tanıdınız ki, ona özünüz üzərində güc verdinizsə, daha yaxşı alqoritm yaza bilməzsiniz ki, o, birincinin qərarlarını mühakimə etsin. Siz həm menecer, həm də hakim kimi ən yaxşı alqoritmi qoyacaqsınız. Daha doğrusu, hakimlər sadəcə olaraq yox olacaqlar. Bu AI-yə üzərinizdə tam güc verməli olacaqsınız.

Yeri gəlmişkən, idarəetmə üçün ilkin məlumatların ISK-ya gəldiyi orijinal qara qutu da rəqəmsallaşdırıla bilər. Və hətta rəqəmsallaşdırılmalıdır. Birləşdirilmiş büdcə ən uyğun olmalıdır. Və o da bunu edir.

Başqa bir an. Yaxud, məsələn, onun qeyri-insaniliyi ucbatından baş verə biləcək səhvlər baş verməməsi üçün qərarlarına nəzarət edəcək adamı üstünə qoyasınız? - Onda bütün məmurlar öz mövqelərini, səlahiyyətlərini qoruyub saxlayacaqlar. Onlara həmçinin İSK tərəfindən təsdiq edilmiş əməliyyatları ləğv etmək və ya ləğv edilmiş əməliyyatları təsdiqləmək hüququ veriləcək. Təəssüf ki, real görünmür. İskin qərarının səbəbini çap etdirəcək. İnsan isə öz hissləri və ya maraqları ilə formal məntiqi təkzib edə bilməyəcək. Hətta bu halda canlı məmur bir (əslində tək) əməlin hər bir təzahürünə bağlansa, ona müqavimət göstərə bilməyəcəklər.

Qarışıqlıq üçün üzr istəyirəm, çoxlu fikirlər var və mətnin uzunluğu düzəlməz dərəcədə artır.

ISK işə salındıqda tam çökmə baş verəcək. Yox, başa düşürəm ki, əvvəlcə onu test rejimində sürürlər. Ancaq bu, profanasiya olacaq, çünki o zaman sadələşdirilmiş bir model deyil, bütövlükdə bütün əlaqələri ilə bütün cəmiyyəti təqlid etmək lazım olacaq, lakin rəqəmsal çəmənlər bunu edə bilməz.

Sonra o, məhdud rejimdə, şərti Perm ərazisində işə salınacaq. Səhvlər, sazlama, yeni buraxılış və istehsal?

Amma gec-tez qırmızı lent kəsiləcək və insanlar avtomobili tam gücü ilə idarə edə biləcəklər (əlini açarda).

Və nə olacağını bilirsən? İskin bütün əməliyyatları tamamilə dayandıracaq. “Əgər-onda” məntiqi mövcud qanunvericilikdə bir-birinə on minlərlə dəfə zidd olan milyonlarla tənzimləmə normaları ilə toqquşacaq. Finita. Qatarlarımız dayanacaq, supermarketdə bir banka saurun ödənişi işləməyəcək. Hər kəs dərhal hakimiyyət orqanlarına göndərilə bilən bir dəstə cinayət və cinayətlə ittiham olunacaq, lakin hakimiyyətdəki bütün insanlar dərhal işdən çıxarılacaq və mühakimə olunacaq. Məhkəmə qərarları iddianı dərhal təmin edəcək. Böyük tarix, sənin haqqında hər şey yazılıb. Yaxşı, bunlar kiçik şeylərdir. Amma sənin maaşını da köçürə bilməyəcəklər, çünki idarənin vergi borcu var, vaqon da səni cərimələyir.

şişirtmək? Xeyr. İlk buraxılış (bir əllə açarla) idarə olunacaq, iki sınaqdan keçirin, iyirmi ikisini sınaqdan keçirin … Və bir gün o, tam sınaq dövründən keçmiş kimi tam olaraq işə salınacaq. Sonra da… Və biz məmurları işdən çıxaracağıq, könüllülər vəziyyəti xilas edəcək.

Belə acınacaqlı nəticələrdən qaçmaq mümkündürmü? - Əlbəttə, cəhd edə bilərsiniz. Bunun üçün bir sıra işlər görülməlidir. Qanunvericiliyin 99% -ni məhv edin, qalan 1% -ni körpəni su ilə tökmədən təkrar emal edin. (Belə şeylər adətən tam hüquqlu vətəndaş müharibəsi ilə tam inqilabdan sonra edilir. Sülh dövründə bunu necə etmək olar - mənim fikrim yoxdur.) Bundan əlavə, mənəviyyat yenidən işlənməlidir. Ofisdən bir paket kağız oğurlamaq (yaxud arvadını aldatmaq) baxımından bu, ya tamamilə məqbuldur (qanunda öz əksini tapıb), ya da tamamilə vaxt məhdudiyyəti tələb edir. Bu əxlaq cəmiyyətin şüurunda yenidən işlənməlidir. Əks halda, AI-ya qarşı ucuz, sadə və effektiv olan optik kabelləri kəsməyə başlayacaq. Başqa bir seçimdir ki, bu iskini ehtimal tərəfdaşa atsın, qoy öz əllərini kəssin. Və təbii ki, yuxarı siniflər əlverişsiz olmamalıdır. Əgər bacarmazlarsa, bundan son şans kimi istifadə edəcəklər.

Mən sizi kompüterləri sıradan çıxarmağa inandırmağa çalışmıram. İskindən heç yerə getməyəcəyik. O, bizi ötəcək, onunla məşğul olmalıyıq. Gəlin taleyimizlə nə ilə (kimlə) döyüşə girməli olduğumuzu anlamağa çalışaq.