Страв од AI или страв од сопственото незнаење?

[Rufflesaurus]

Имам побајаги искуство со Ларавел и веројатно ако и јас самиот се водам по логиката на некакви архитектонски пуристички принципи ќе треба да се сложам со тебе. Но ко што реков и ко што и Тејлор Отвел самиот има нагласувано многу пати, тој не го има направено фрејмворкот by the book следејќи некои строги правила за архитектури и патерни. Го има направено фрејмворкот за да на девелоперот му биде максимално интуитивен и да може девелоперот што побрзо да шипува ствари. Од друга страна ниту некој може да ти забрани да направиш своја архитектура во Ларавел (да речеме хексагонална архитектура се со цел за DDD).

Друго, ако Тејлор Отвел, кој самиот за себе кажува дека е само PHP или фулстек дев успеал сам да го напише Forge, тогаш човекот се надминал самиот себе си. Инаку Forge e алатка или платформа за менаџирање и оркестрација на сервери, која во моментов е заменета или активно се заменува од страна на Laravel Cloud и не е производ кој очекуваш да биде креиран исклучиво од еден PHP dev.

На крај краева ниту мораш да го користиш Ларавел, секогаш е тука Симфони и дури и можеш да си изградиш свој фрејмворк по твоја мерка, со пакети кои му требаат само на твојот проект.

Не ми беше муабетот за фрејмворкот, тоа е друга тема за колку е полн со лоши дизајн избори и колку е лимитиран за долгорочни проекти во споредба со Symfony.
Поентата ми е дека ни двајцата немаат искуство во ентерпрајз светот за разлика од луѓе како Martin Fowler, Kent Beck, Uncle Bob, Vaugh Vernon итн за да бидат релевантни да зборат на темата. Одамна се менаџери на своите продукти и немаат видено доволно за да знаат како се гради софтвер во различен контекст за да кажат дали ќе треба да читаме код, дали јазикот или фрејмворкот ќе биде важен во иднина и што уште не.

Они живеат во друг контекст и за нив градење продукти од нула до продукција им е таргет маркет, и се маркетери во поголем дел од времето. Кажуваат работи што не се вистинити за сите контексти.

 

[zmej gorjanin]

Не ми беше муабетот за фрејмворкот, тоа е друга тема за колку е полн со лоши дизајн избори и колку е лимитиран за долгорочни проекти во споредба со Symfony.
Поентата ми е дека ни двајцата немаат искуство во ентерпрајз светот за разлика од луѓе како Martin Fowler, Kent Beck, Uncle Bob, Vaugh Vernon итн за да бидат релевантни да зборат на темата. Одамна се менаџери на своите продукти и немаат видено доволно за да знаат како се гради софтвер во различен контекст за да кажат дали ќе треба да читаме код, дали јазикот или фрејмворкот ќе биде важен во иднина и што уште не.

Они живеат во друг контекст и за нив градење продукти од нула до продукција им е таргет маркет, и се маркетери во поголем дел од времето. Кажуваат работи што не се вистинити за сите контексти.

Не се слагам со тебе. Што требало да направат за да не бидат само маркетари? Да напишат книги ко имињата кои што си ги навел? Како наведениве имаат повеќе врска со ентерпрајз, а не Тејлор и DHH чии продукти, кои сами ги изградиле/напишале (или еве да речеме учествувале во нивното создавање, да бидеме попрецизни), денес ги користат илјадници корисници?

Со Rails светот немам многу допирни точки, али еве ако сакаш да ти пратам скорешни commits од Тејлор на Github? Да не се фатиш за тоа дека исклучиво други му го пишуваат кодот, а он е као некој продукт или проект менаџер само. Дури и најголемиот дел од prs се одобрени од него. Значи човекот секој ден троши значаен дел од своето време за да го разгледа кодот на минимум дузина девелопери и да одлучи дали е во ред или не е во ред. Тоа е несвојствено за еден маркетар.

Самиот Uncle Bob што го имаш спомнато, пред некоја недела го гледам како збори дека : "We should walk away from code". И дека секоја линија на код му е покриена со тестови кои гарантираат за точноста, и дека кодот што му го генерираат агентите не го ни погледнува во IDE. А околу тоа дали работите се вистинити или не, ќе оставиме на времето.

 

[Rufflesaurus]

Не се слагам со тебе. Што требало да направат за да не бидат само маркетари? Да напишат книги ко имињата кои што си ги навел? Како наведениве имаат повеќе врска со ентерпрајз, а не Тејлор и DHH чии продукти, кои сами ги изградиле/напишале (или еве да речеме учествувале во нивното создавање, да бидеме попрецизни), денес ги користат илјадници корисници?

Со Rails светот немам многу допирни точки, али еве ако сакаш да ти пратам скорешни commits од Тејлор на Github? Да не се фатиш за тоа дека исклучиво други му го пишуваат кодот, а он е као некој продукт или проект менаџер само. Дури и најголемиот дел од prs се одобрени од него. Значи човекот секој ден троши значаен дел од своето време за да го разгледа кодот на минимум дузина девелопери и да одлучи дали е во ред или не е во ред. Тоа е несвојствено за еден маркетар.

Самиот Uncle Bob што го имаш спомнато, пред некоја недела го гледам како збори дека : "We should walk away from code". И дека секоја линија на код му е покриена со тестови кои гарантираат за точноста, и дека кодот што му го генерираат агентите не го ни погледнува во IDE. А околу тоа дали работите се вистинити или не, ќе оставиме на времето.

Супер е се тоа што го кажа, ама пак ќе ти кажам дека додека не видат како е да се работи на огромни проекти, нема да имаат релевантност.

Нивните продукти не се комплексни домени за да увидат некои работи. Да имале барем едно искуство на банкарски софтвер и да требало да го одржаваат тој софтвер, ќе знаеле дека сепак кодот е корисен треба да се чита и да се разбира, но бидејќи немаат такво искуство, можат да кажат што сакаат и да звучи како вистина за луѓе што не разбираат и само шират дезинформации.

Популарност не значи релевантност.

Јас воопшто не би бил релевантен да зборам за градење милионски бизниси ако не сум изградил ниеден, така?

Како и да е, колку и да сакаме можеме да зборуваме за ова ама нема да помогне фактот дека сепак и кодот е важен во денешно време само што можеби не е рачно напишан. Многу е лошо ако се ослонуваме на LLM кој што во секој момент може да падне или пропадне па после тоа да не знаеме да се снајдеме во тоа што работиме.

Сум работел со колеги што не се толку искусни или воопшто искусни бекенд и знам дека биле многу лоши одредени решенија напишани од Claude, ама работеле како за почеток, но тоа што утре ќе доаѓаат тикети од поддршка за расипана функционалност е друга работа (и тоа многу често се случува). Цело време ќе се вртиме во круг за една иста работа и ќе губиме време наместо да се фокусираме да направиме подобро искуство за корисниците.

Многу хаос (ќе) се направи со тоа да даваш целосна контрола на некој друг да ти работи за тебе без да разбираш што се случува во позадина.

 

[Pane24]

Читајќи ги вашите коментари ми се навртеа мисли за Големиот филтер и Фермиевиот парадокс.
Колку е овоа вистина ќе покаже времето, дали АИ ќе ни помогне уште повеќе во напредокот или ќе реше дека сме штетни за планетата и сврте против нас.

Теоријата на Големиот филтер (The Great Filter)

Хипотезата ја формулирал економистот Робин Хансон во 1998 година.

Таа се обидува да даде можно објаснување за Фермиевиот парадокс.

Имено, нашата галаксија Млечен Пат содржи стотици милијарди ѕвезди. Голем дел од нив се постари од Сонцето за милијарди години.

Ако интелигентниот живот не е исклучително редок, зошто досега не сме откриле јасни докази за други технолошки цивилизации?

Едно можно објаснување е дека на патот од нежива материја до меѓуѕвездена цивилизација постои барем една исклучително тешка пречка.

Таа пречка е наречена Големиот филтер.

2. Деветте еволутивни чекори​

Според една верзија на моделот на Хансон, развојот може да се подели на девет големи фази.

Патот на една цивилизација​

01
Создавање соодветен планетарен систем
02
Појава на самореплицирачки молекули
03
Развој на едноставен едноклеточен живот
04
Појава на сложени клетки
05
Развој на сексуална репродукција
06
Појава на повеќеклеточен живот
07
Развој на интелигенција и употреба на алатки
08
Развој на технолошка цивилизација
09
Ширење и трајно населување надвор од матичната планета
Поедноставен приказ на деветте фази. Човештвото сè уште не ја има достигнато последната фаза.
Клучното прашање е:

Дали најтешкиот филтер веќе сме го поминале или допрва нè очекува?

Тоа создава две фундаментално различни сценарија.

3. Сценарио А: Големиот филтер е зад нас​

Можеби самата појава на животот е речиси невозможен настан.

Можеби преминот од едноставни во сложени клетки е толку редок што Земјата претставува неверојатен космички исклучок.

Ако е така, човештвото веќе ја поминало најтешката препрека.

Во тој случај, нашата цивилизација можеби има огромна иднина пред себе.

4. Сценарио Б: Големиот филтер е пред нас​

Ова е сценариото што директно се поврзува со твоето прашање за човечкото самоуништување.

Замисли дека интелигентниот живот релативно често се развива на планети низ вселената.

Цивилизациите откриваат електрична енергија, создаваат компјутери, развиваат нуклеарна технологија и вештачка интелигенција.

Но во одреден момент достигнуваат критична точка:

Нивната способност да уништуваат станува поголема од нивната способност безбедно да управуваат со сопствените откритија.

Токму тука би можел да се наоѓа Големиот филтер.

5. Пет можни механизми на човечкото самоуништување​

Ова не се докажани предвидувања, туку различни ризици што се разгледуваат во истражувањата за егзистенцијалната безбедност.

I. Нуклеарно самоуништување
Човештвото создава оружје способно за масовно уништување. Голем нуклеарен конфликт може да предизвика непосредни жртви, уништена инфраструктура и потенцијални глобални климатски последици.

II. Неконтролирана вештачка интелигенција
Развиваме системи што можат да извршуваат сè посложени задачи, но не успеваме да обезбедиме нивните цели и дејства да останат усогласени со човечките интереси.
Ова е предмет на сериозни научни дебати, со значителни несогласувања за веројатноста и природата на ризикот.

III. Биотехнолошки ризици
Развојот на генетското инженерство и синтетичката биологија носи огромни медицински придобивки, но и ризици од несреќи или намерна злоупотреба со глобални последици.

IV. Еколошка дестабилизација
Цивилизацијата постепено ги нарушува природните системи од кои зависи: клима, почва, вода, биодиверзитет и производство на храна.

V. Цивилизациски колапс
Комплексните општества стануваат зависни од меѓусебно поврзани системи. Серија економски, енергетски, политички или технолошки нарушувања би можела да ја намали нивната способност за опстанок и закрепнување.
Важно е да се направи разлика: исчезнување на човечкиот вид, пропаст на модерната цивилизација и голема глобална катастрофа се три различни исходи.

6. Поврзаноста со Фермиевиот парадокс​

Овде теоријата станува уште поинтересна.

Физичарот Енрико Ферми го поставил познатото прашање:

„Каде се сите?“

Нашата галаксија е стара приближно 13 милијарди години, а Земјата околу 4,54 милијарди години.

Тоа значи дека некоја друга цивилизација теоретски можела да има милиони, па дури и милијарди години предност во развојот.

Дури и со летала што патуваат многу побавно од светлината, хипотетичка експанзивна цивилизација би можела да се прошири низ голем дел од галаксијата во временски период многу пократок од нејзината старост.

А сепак, немаме потврден доказ за таква цивилизација.

Големиот филтер нуди едно можно објаснување: можеби речиси никој не стигнува толку далеку.

Но постојат и други објаснувања. Можно е меѓуѕвезденото ширење да не е практично, цивилизациите да не се заинтересирани за него или едноставно сè уште да не сме пребарувале доволно.

7. Најпровокативната последица од оваа теорија​

Во контекст на Големиот филтер, научното откривање живот на друга планета би можело да има неочекувано значење.

На пример:

Едноставни бактерии на Марс	Дека едноставниот живот можеби не е толку редок, доколку настанал независно.
Сложен живот на друга планета	Дека и некои од следните еволутивни чекори можеби се повторливи.
Остатоци од исчезната технолошка цивилизација	Би отворило сериозни прашања за тоа што го ограничува долгорочниот опстанок.
Активна, многу стара цивилизација	Би покажало дека барем некои цивилизации можат да опстанат на огромни временски скали.

Ова е причината зошто Хансон изнел една контраинтуитивна идеја: откривањето независно настанат сложен вонземски живот не мора автоматски да биде добра вест за нашата долгорочна иднина.

Ако раните чекори се лесни, можеби најтешката пречка е некаде понатаму.

Секако, едно откритие само по себе не би било доволно за таков заклучок.

8. Постои и друга теорија: The Doomsday Argument​

Оваа идеја е различна од Големиот филтер.

Аргументот за Судниот ден (Doomsday Argument), поврзан со филозофот Брендон Картер, а подоцна разработуван и од други автори, користи антропско и статистичко размислување.

Неговата основна идеја е дека нашата позиција во вкупниот редослед на сите луѓе што некогаш ќе живеат можеби носи информации за идното времетраење на човештвото.

Тоа е контроверзен филозофско-веројатносен аргумент, а не научно утврден датум или доказ за крајот на човештвото.

 

[zmej gorjanin]

Супер е се тоа што го кажа, ама пак ќе ти кажам дека додека не видат како е да се работи на огромни проекти, нема да имаат релевантност.

Нивните продукти не се комплексни домени за да увидат некои работи. Да имале барем едно искуство на банкарски софтвер и да требало да го одржаваат тој софтвер, ќе знаеле дека сепак кодот е корисен треба да се чита и да се разбира, но бидејќи немаат такво искуство, можат да кажат што сакаат и да звучи како вистина за луѓе што не разбираат и само шират дезинформации.

Популарност не значи релевантност.

Јас воопшто не би бил релевантен да зборам за градење милионски бизниси ако не сум изградил ниеден, така?

Како и да е, колку и да сакаме можеме да зборуваме за ова ама нема да помогне фактот дека сепак и кодот е важен во денешно време само што можеби не е рачно напишан. Многу е лошо ако се ослонуваме на LLM кој што во секој момент може да падне или пропадне па после тоа да не знаеме да се снајдеме во тоа што работиме.

Сум работел со колеги што не се толку искусни или воопшто искусни бекенд и знам дека биле многу лоши одредени решенија напишани од Claude, ама работеле како за почеток, но тоа што утре ќе доаѓаат тикети од поддршка за расипана функционалност е друга работа (и тоа многу често се случува). Цело време ќе се вртиме во круг за една иста работа и ќе губиме време наместо да се фокусираме да направиме подобро искуство за корисниците.

Многу хаос (ќе) се направи со тоа да даваш целосна контрола на некој друг да ти работи за тебе без да разбираш што се случува во позадина.

Ама јас не зборував за никаква популарност, зборував за реални продукти кои се одржувани на долг рок. Како Basecamp кој што постои од 2004 та или Hey апликацијата која што е email сервис ако не се лажам. Исто ако збориме за релевантност ако не се лажам Github и Shopify се напишани во Rails пред се? Или тоа не се проекти кои се релвентни? Само банкарски софтвер е релевантен?

Се сложувам дека кодот е сеуште многу важен и дека иднината на LLMs е сеуште неизвесна. Иако моја прогноза е дека ако не се случи вмешување на човечки фактор односно да бидат забранети поради X причини или паузирани, LLMs се иднината.

Примерот со колегите и не фрла лошо светло на Claude, колку на твоите колеги. Claude ќе ти напише толку добро решение колку што ќе му дадеш добар контекст. Затоа си ти тука да го спречиш хаосот.

 

[Lokvan]

...

Во ова сценарио „Големиот филтер“ не е филтер туку е блокада. Пошто ако е филтер значи дека истиот треба да е барем делумно пропустлив, па тогаш нешто треба и да помине низ тој филтер (цивилизација која нема да се самоуништи). И така доаѓаме до Фермиевиот парадокс, кој е многу порелевантна теорија за темата која ја начнуваш (и благ офтопик овде).

Овде опасноста не е дека ВИ ќе го уништи човештвото, или барем не директно, туку дополнително ќе го заглупави човештовото за да го спречи напредокот. Или барем сериозно да го успори (ама мислем дека секако веќе бевме таму и пред ВИ).