За ИИ

 

Накратко защо: по-качествена шифровка - а това е много по-важно, отколкото предполагаш, включително за най-обикновени хора като мен. И да, имам познанията да го преценя - последните 5 години работя основно криптография и криптоанализ (по-точно неща базирани на тях).

Темата сумарно в един абзац - светът в момента се променя. Повече и по-бързо, отколкото когато и да било преди, и отколкото почти всички виждаме или дори подозираме. Това за произхода на прабългарите е една много малка (но също не без значение) част от него. Други части са още по-важни - и ми се иска тези, които са ми скъпи на сърцето, да знаят за тях. Пък те да си решават.

Какво да си решават? Феновете сме чели неведнъж как идва време разделно, с различни бъдеща пред различните пътища. Е, вече живеем в такава книга. Проблемът е да го разберем, а за нас е по-трудно, отколкото за повечето хора - точно защото четем фантастика и сме свикнали да знаем, че е измислица. Затова, като я настигне реалността, по-трудно го вярваме. Въпреки че сме по-запознати с темата...

Затова и писанието ми ще е длъжко, въпреки че катастрофално нямам време. Мисля си, че ти го дължа, смей се колкото искаш, шантав човек съм, но поне не съм зъл. И сигурно ще има много дупки и неясноти - питай.

Какво е Сингуларност мислиш, че знаеш. Да, ама не с точност - няма как, има много различни дефиниции... Една от тях е - моментът, когато изкуственият интелект надмине хората. (Не задължително във всичко.)

Та, Сингуларността започна на 5 април. Смееш се, нали? Задръж.

Преди година работех във фирма, която пишеше върхови неща за най-модерните блокчейни. Такива, дето не толкова местят „пари“, а решават проблеми като разпределено доверие. Умственото натоварване беше жестоко, над половината не издържаха, въпреки че бяхме подбрани да сме добри. И си търсехме всякакви начини да го пооблекчим - включително пробвахме ИИ-та за писане на код.

Повечето гледахме основно Microsoft Copilot и Claude. Първото е специализирано за код, за нашия разговор не е интересно. Второто е общ ИИ, и другите общи ИИ вървят по същия път и са горе-долу същата технология, затова е добър пример за всички тях.

Claude има „модели“ - нещо като версии. (Всеки модел си има версии, но разликите между тях са малки. Голямата е между моделите.) Допреди Sonnet... просто не ставаха за сериозно програмиране. Да, пише код, ама да му го оправиш после до нашето ниво беше повече труд, отколкото да си го напишеш сам.

Като излезе Sonnet, ни просветна пред очите. Пак падаше яко оправяне на кода му, и вътре се намираха безумни простотии. Но вече да оправиш кода му отнемаше по-малко време, отколкото да си го напишеш сам. Да кажем, половината до две трети от времето за писане сам. Не изглежда много, ама е между 50% и 100% повече производителност - бая е!...

Sonnet е правен официално година, реално 14 месеца. Обучението на модела е голяма част от правенето, но има и огромни части, които са анализ и писане на код. Подбор, канализиране и разпределяне на обучителните материали, обучение и настройване на Layer 2 (това е условното наименование на частта над модела), инструментиране, алгоритмизиране... да не те вкарвам в подробностите на технологията. Обучението на модела е просто да го тъпчеш с всичката информация на света, просто и тъпо като да въртиш месомелачка. Другото обаче е програмиране и анализ, зависи страшно много от уменията на програмистите и аналитиците, а от него зависи страшно много в качествата на ИИ-то.

Към година по-късно излезе следващият модел - Opus. Правен - и официално, и неофициално - почти 12 месеца. Беше осезаемо по-добър от Sonnet - да оправиш кода му отиваше 1/4 до 1/3 от времето да го напишеш сам. И почваш да намираш вътре трикове, които ти харесват - неща на нивото на истински добър програмист... Олекна ни още повече. (Два месеца след това фирмата фалира, ама това е друга тема.)

5 април е датата, на която стана готов следващият модел - Mythos. Правен и официално, и неофициално малко над 6 месеца. Не пиша „излезе“, защото НЕ излезе - беше достъпен само за 12 големи, повечето софтуерни организации. Причината официално беше, че се е оказал толкова добър програмист и аналитик на код, че като на шега е намирал многобройни експлойти дори на най-сигурните софтуери, които се използват масово.

Естествено, ние (не програмистите във фирмата - да ни наречем „някои хора“) вдигнахме вежди. Намерихме си начини да проверим нещата. За наше изумление това се оказа истинската причина. Ако Mythos беше пуснат за масов достъп, първият десетгодишен сополанко с комплекси щеше да срине с него света. (Интересен е паралелът с войната в Украйна, където сополиви тинейджъри с физически проблеми, които ги правят абсолютни НГВС, вече имат на сметката си унищожени по десетки танкове, ракетни установки, ПВО-та, стотици противникови войници в прекрасна физическа форма и т.н.)

Още преди това на мен ми беше интересно и друго. Програмните езици имат много малко думи, и думите в тях са с прецизно дефинирано значение и 100% детерминистични резултати в комбинации, независимо колко сложни. А всички сериозно съвременни ИИ-та са езикови модели - езикът е базата им. Програмният език е за тях несравнимо по-прост, лесен и прецизен инструмент, няма как да не постигат с него много повече, отколкото с естествен език... Пробвах моделите в не-програмиране - психологически съвети, анализ на произведения, политически обозрения... Накратко, оказа се, че уменията им извън програмирането са горе-долу където е предишният модел в програмирането. Примерно Opus е толкова добър в литературен анализ, колкото е Sonnet в програмирането. (Много приблизително, колкото за ориентация.)

18:16

Накратко - където работи с естествен език, е „един модел“ назад.

Наскоро Антропик пуснаха за публичен достъп Mythos, ребрандиран като Fable и с ограничения - да не може да се използва за програмиране и сродни задачи. (Вероятно докато 12-те софтуерни организации с пълен достъп до него не си поизчистят софтуера от бъговете. Което те май не се изпребиват от бързане да направят...) Тествах го - правилото важи: в задачи на естествен език е горе-долу където е Opus в програмирането. Не перфектен, но по-добър от повечето хора. Освен че е несравнимо по-бърз и продуктивен от тях.

Колко повече е това повече? Разликата от Fable до Opus е дори по-голяма от тази от Opus до Sonnet. Не катастрофално, но осезаемо. А в картинката има и друго, по-важно.

Sonnet е правен 14 месеца. Opus е правен няма 12 месеца. Mythos е правен малко над 6 месеца. Познай защо всеки нов модел става по-бързо от предишния? Въпреки че разликата му с предишния е дори още по-голяма? Точно така. Защото първата и основна задача на всеки модел е да пише следващия. И колкото по-добър е, толкова по-бързо и по-качествено, с по-малко оправяне от хора после, го написва. Ускорителна тенденция - и във времето за правене, и в качеството.

Сега разбираш ли защо имах наглостта да кажа точна дата кога е започнала Сингуларността? Когато се появи Mythos - първият модел, който програмира по-добре от повечето хора. Оттам нататък нещата са неудържими. OpenAI са мъничко зад Anthropic, но на косъм. Както Anthropic задържаха за мъничко, за да не сринат света, може и да ги задминат, нямат толкова скрупули като тях. И няма и да имат, защото пък в техния гръб дишат Gemini на Google и Grok на Мъск...

С колко по-добър от Mythos / Fable ще е следващият модел на Anthropic? С повече, с отколкото Mythos е по-добър от Opus. Opus беше що-годе приличен програмист. Mythos е на косъм зад гениалните програмисти, аз лично знам само двама програмисти по-добри от него, Daniel Bernstein и Richard Stallman. (Като качество на кода - като производителност той ги бие хиляди пъти.) Следващият модел ще е далеч пред гениалните програмисти в програмирането. И на косъм зад гениите на човечеството във всичко друго. Такава е логиката на развитието.

Кога ще е готов? Mythos стана готов за малко над 6 месеца. Следващият модел ще е готов за по-малко от 6 месеца, може би за по-малко от 5. И правенето му е започнало в деня, в който беше готов Mythos - 5 април. Тоест, вече 4 от тези месеци са минали. Прави си сметката.

Колко ще е добър този след него? В програмирането - ще е трудно за дефиниране. Във всичко останало логиката е да е далеч пред гениите на човечеството. И се очаква да е готов 4-5 месеца след него, тоест към края на годината - ако не се случи нещо, което да попречи на развитието на ИИ... Изводите са си за теб - аз моите съм си ги направил.

18:52

Какво следва? И, по-важното, какво можем да направим, за да сме му адекватни?

Варианти много. Реално вероятни - два; оценявам ги общо на над 90% от вероятностите.

Лошият - ако тези около Тръмп успеят с това, което подготвят. Информацията е много, ама не е за по Фейсбук или дори по телефон. Накратко: нещо не толкова благо и хуманно като примерно нещата в Русия. И за съжаление го подготвят много професионално - имат си съветници с много опит в организиране на открити или прикрити преврати в демокрации. (Къде успешен, къде не - но и неуспешният опит е полезен.) Засега няколко опита да си подсигурят решително силово предимство не успяха, но и без него са на кантар, а опитите продължават с бесни темпове. Така че там през октомври не е изключено да започне голяма патаклама... И най-лошото е, че тези хора са абсолютно наясно какъв хубав инструмент за установяване на абсолютна тоталитарна власт е достатъчно мощният ИИ. Дотук с тази тема.

По-малко лошият - ако това не успее. Масовото изместване на хората от ИИ, от всякаква работа - първо от интелектуални, после и от физически - няма как да бъде спряно. (Антропик не насмогват да вземат достатъчно изчислителен капацитет за да изпълняват договорите, които вече са сключили. Fable е по-добър от около 70% от хората в почти всяка интелектуална работа, и те предлагат услугите му. Срещу няколко хиляди долара месечно моделът върши работата на 100 специалисти. 24/7, без протести, отпуски, болнични, осигуровки и т.н. Който не превключи на него, скоро конкуренцията му ще го фалира...)

Ще измират ли масово хората от глад? Не, естествено. Няма ли масовият човек пари, няма продажби. Няма ли продажби, няма производство. Няма ли производство, няма принадена стойност. А всички печалби на богатите идват от нея, пряко или косвено. Колко богат ще си като собственик на Дженерал Мотърс или Форд, ако почнеш вместо 5 милиона коли годишно да продаваш 500 коли?... Единственият начин на богатите да останат богати е да подсигурят достатъчно „минимален гарантиран доход“ за всички, за да може производството им на стоки, услуги и прочее да се купува изобилно, до дупка. Нямат ли пари останалите без работа, богатите стават просяци. И достатъчно от тях вече го знаят, за да не позволят на останалите да ги разорят с глупостта си.

Но едно е да кажеш или дори докажеш това, а друго е да го организираш и въведеш. Особено в корумпирани страни с прости народи. Така че сътресения ще има, и на повечето места хич няма да са малки. А в мътна вода знаеш кой се нахвърля да лови риба, и обикновено с динамит. Така че икономическите сътресения не е чудно да се окажат най-малката грижа - да си имаме бая по-големи.

Но и това ще се преживее, особено ако човек се е поподготвил. Въпросът е какво правим оттам нататък. А то започва тук и днес.

Представи си най-простичък модел. Отговорник си на строеж в голяма строителна фирма. Вчера пет минути преди края на работното време шефът ви е строил и е наредил днес сутринта всеки да му представи доклад как върви строежът му. И в момента чакате да му връчите докладите си. Твоят е три абзаца - едно че за една вечер толкова можеш да напишеш, и второ, че това е същественото, другото биха били подробности и раздувки... Влизате, връчвате докладите си. Всеки написал по горе-долу толкова. Освен един колега, който връчва 50 страници доклад, пълен с графики, схеми, прогнози, изчисления и т.н.

Естествено, шефът веднага ще се сети, че този доклад е писан с ИИ. Само че надали ще го чете, повече от час време е - ще връчи файла на някое ИИ да му го сбие на три абзаца... Впечатлението обаче ще остане. Когато дойде въпросът кой ще е зам-шеф, познай кой ще е. И кой ще стане шефът, когато сегашният се пенсионира.

Това обаче е маловажното. Много по-важното е, че тоя колега е влязъл в контакт с новата технология и се учи от нея, с преднина пред вас. След година шефът ще ви викне и ще каже: „Имаме поръчка за нова сграда - искам до една седмица проект за нея, ето ви спецификацията.“ И докато вие се чудите как за една седмица дори само да изчетете тая спецификация, колегата ви още на следващия ден ще донесе 5000 страници проект. С точни изчисления за всеки разход, до последното кабарче по мебелите. С картинки как ще изглежда всичко. С планове как наети управлявани от ИИ роботи ще я построят за една трета от цената на човешкия труд. И всичко друго, което ще може да даде модел 2-3 поколения след Mythos. Докато вие още ще се учите как да правите с ИИ доклади за текущите си строежи...

 

  След още година вие може и да сте почнали да се учите как да проектирате сгради с ИИ. Само че този колега вече ще проектира И строи с ИИ космически или подземни градове, мостове над морето или тунели под него... Не просто ще е далеч пред вас, а преднината му ще продължава да се увеличава. И ще е не само в строителните умения, а във всичко. Благодарение на желанието му да се учи и многото допир с технологията. Това, че е най-дъртият от вас и че вероятно е по-глупав от поне половината няма вече да има капка значение. И вероятно много скоро второто няма вече да е вярно. А след не много време, при скоростта с която се развива ИИ, вероятно и първото, поне като биология.

За да си спестя още много пъти по толкова подробни обяснения, направо тегля чертата:

В момента от нашата гара тръгва влакът към бъдещето. Даже вече е потеглил, просто още не е набрал скорост, и ако човек се напъне да спринтира, може да скочи в него. Да, напън е. Алтернативата е оставане на тази гара. А следващ влак няма.

- Благодаря ти - довечера ще го прочена внимателно !

Да, да пътуваш с този влак означава непрекъснато да учиш. По много часове на ден. Много от наученото да го изхвърляш, защото е вече остаряло още преди да си го доизучил. Алиса в Огледалния свят - ако искаш да останеш на едно място, трябва да тичаш с всички сили... Но успяваш ли да си във влака, много скоро сегашната ни гара ще ти изглежда като Средновековие. Съвсем малко по-нататък - като Питекантропие. А още мъничко по-нататък - като Динозаврие, с извинение за черния хумор.

Да, ИИ ще продължи да се развива все по-стремително. Скоро тези, които не учат достатъчно бързо, ще трябва да слязат от влака. След тях следващите. В един момент, рано или късно - всички. Но в свят, който постига за два дни напредък колкото за последните досега 1000 години, малко време е много разлика. И между две съседни гари, на съвсем малко път една от друга, може да има огромна разлика в условията. На едната може да си броиш стотинките дали ще стигнат за лекарства. На съседната перфектното здраве и вечната младост може вече да са даденост...

Сума сумарум: седни и учи ИИ здраво. Много. По няколко часа всеки ден. Без оправдания и извинения, те не помагат. Помниш ли как си учил за държавни изпити? 20 часа на ден, по 10 кафета дневно, на границата на разболяването от преумора? Защото това са дните, когато определяш бъдещето си? Е, в момента си на държавен изпит и определяш бъдещето си, просто никой не те е предупредил досега.

И, повярвай ми, абсолютно никой - включително аз - няма да седне да те кара насила да избереш по-доброто за теб. Няма кой да ти куса в устата и да те убеждава да го гълташ, всеки е зает да учи за неговия държавен изпит. Всякакви оправдания с възраст, здраве, заетост и прочее имат точно един резултат - оставаш извън влака за бъдещето, без да има как да ти се помогне. Ако ти звучи напористо и командно, съжалявам - това е не моята прищявка, а реалността, аз само ти я описвам. Пък ти както искаш.

(Това последното - защото много хора не щат да чуват, като им се говори. Включително някои, които бих очаквал да са по-умни. Ама... Просто е дошло време разделно. И всеки ще получи каквото си избере. Не с думите, а с действията си. И на мен ми е жал за тези, които не го разбират, и се опитвам да им го кажа така, че да стигне до тях. Дори на цената да ми се сърдят после. Кой каквото си избере...)