Vibekoodaus ja ajattelu olevansa "rakentaja", vaikka sinulla ei ole lainkaan tietoa varsinaisesta koodauksesta etkä halua oppia sitä edes vähän, on kuin kutsuisi itseään kokiksi tilattuaan ruokaa Uber Eatsilta.

@Madamemeta4 abstraktion ei pitäisi ***

On vähän hassua, miten tästä twiitistä tulee lakmustesti sille, kuka lukee ymmärtääkseen ja kuka lukee reagoidakseen. Varoitus on hienovarainen, ja reaktiot tavallaan todistavat sen.

En halua tuntea koodia vain siksi, etten halua lähettää asioita, joista en ole vastuussa. En ole ohjelmistokehittäjä, en ymmärrä koodausta enkä perusasioita, jotka liittyvät mainitsemaani "odotusteoriaan"... Kuvittele siis, että lähetän sovelluksia sinne, koska ne ovat suosittuja, vaikka minulla ei ole mitään ymmärrystä... Eikö se ole vastuuntunnotonta? Eikö se ole roskaa? Ja ihmiset kuten minä, joilla ei olisi mitään ymmärrystä mutta jotka laittaisivat asioita ulos, ovat ongelma. Ja hahahaha, se ei objektiivisesti pidä paikkaansa, koska on paljon ei-teknisiä ihmisiä, jotka käyttävät agentteja koodaamiseen ymmärtämättä ohjelmistoa, joten ovatko hekin ohjelmistoinsinöörejä? Minusta tuntuu, että olet puolustuskannalla, ehkä siksi, että itse ymmärrät mitä teet ja käytät näitä työkaluja kehittääksesi taitojasi, ja näin katsot asiaa subjektiivisesta näkökulmastasi. Mutta todellisuus on, että nykyään on kasvava joukko ei-teknisiä käyttäjiä, jotka lähettävät paljon tavaraa App Storeen ymmärtämättä edes teknisiä yksityiskohtia. Joten kyllä, nämä työkalut toimivat vain niiden käsissä, jotka ymmärtävät mitä tekevät... ei ihmisten käsissä, jotka eivät ymmärrä mitä tekevät tai joilla ei ole tahtoa👍🏾 … > et voi pakottaa käyttämään sovellusta/ohjelmistoa, jota et halua. Jos se on huono, ihmiset luonnollisesti eivät käytä sitä ja rakentajat mukautuvat sen mukaan Tämä on kuin sanoisi, että on ok jatkaa selvästi huonojen asioiden tuottamista ja että ihmiset mukautuisivat sen mukaan. Kun voit helposti saarnata varovaisuutta valmistusvaiheessa? … > juuri näillä agenteilla on maailman parhaiden insinöörien tiedot ja he ovat keskimäärin parempia kuin keskimääräinen insinööri, he ovat kirjaimellisesti mestarin määritelmä Ei, ne eivät ole lmfao. reaaliaikainen pääsy tietoon ja kyky palauttaa kuvioita =/= hallinta. Älkäämme hämärtäkö tätä rajaa. Nämä välittäjät eivät tiedä, miksi sovelluksesi toimii, eivätkä tiedä, milloin se ei toimi. He vain muistavat kuvioita, siinä kaikki. Juuri siksi "toimijuus" on avainasemassa. ehkä kun saavutamme AGI:n, se voisi olla mahdollista, mutta nykyisessä versiossa vibra-koodaustyökalut eivät ole sitä, mitä niistä tekee. Muuten ei olisi perusvirheitä, näin @chiefofautism tekevän tietoturvatarkistuksen moniin asioihin, jotka olivat ilmeisesti vibrodattuja viime vuonna, ja suurin osa niistä ei yksinkertaisesti läpäissyt perustarkastuksia: kovakoodatut API-avaimet, avoimet tietokannat, puuttuvat tarkistukset jne. Jos nämä työkalut olisivat mastereita, ne eivät hallusinoi koodeja (jos et tiedä mitä teet, missaat sen). Joten ei, he eivät ole mestareita. Mutta on poikkeuksellisia oppipoikia, jotka saavat varsinaiset mestarit (ymmärtävät ihmiset) työskentelemään tehokkaammin. … > tarkoitat, että insinöörien rakentamat sovellukset eivät joudu hakkeroiduiksi? lmao etkö? Pointti on, että suurin osa tästä tunnelmakoodatuista sovelluksista ei läpäise edes kaikkein perustason turvallisuustarkastuksia tai kooditarkastuksia, vaikka varsinaiset koodit eivät ole huipuloita. Jos lukisit mainitsemasi Anthropic-dokumentaation, huomaisit, että se perustuu jo hyödynnettyihin älysopimuksiin ja he vain vertailevat mallejaan sen pohjalta. Ja mallit menestyivät huonommin kuin varsinaiset ihmishakkerit hyödyntäessään näitä sopimuksia tuolloin. Lisätodiste siitä, etteivät nämä työkalut ole vielä "ymmärtäviä", koska ne eivät ole AGI:tä, vaan ne vain tunnistavat kuvioita. … > kukaan ei normalisoi roskaa. Rehellisesti sanottuna väität vastaan "vibrokodointia ja luulet olevasi 'rakentaja', vaikka sinulla ei ole lainkaan tietoa varsinaisesta koodauksesta etkä halua oppia sitä vähän" ja näytät kannustavan sovellusten tuottamista rakentajille, joilla ei ole lainkaan tietoa siitä, mitä he tekevät, eikä halua oppia edes vähän... Eikö se ole roskaa? jos kannustat minua, joka ei ymmärrä, miten ottaa vastuuta siitä, mitä tuotan, eikä halua tuottaa, tuottamaan asioita vain siksi, että se on helppoa... Kannustat roskaa.