Assistents artificials o competidors en competència deslleial?

· 6 min read

ai llm programming music opinion open-source

Also available in: en es ru

Gran part del que escric tot seguit ja ho he expressat en diversos debats; ara he decidit aplegar-ho en un sol lloc per tenir un enllaç a mà quan es presenti l'avinentesa.

La meva bombolla s'ha partit en dues meitats si fa no fa iguals: pallassos amb els ulls brillants que fan servir Claude en mode autònom per parir «aplicacions» inútils que ningú no ha demanat, i pessimistes recalcitrants que jutgen les capacitats dels models de llenguatge a partir de l'estat en què es trobaven a mitjan 2020. Als primers els encanta proclamar: «Ja no programo pas; em concentro exclusivament en la part creativa, l'estratègia i l'arquitectura». Els segons neguen d'alguna manera l'evidència i ni tan sols confiarien en un model per endreçar un JSON netament.

Des de fora de la meva bombolla arriben els xiscles dels anomenats «artistes» que acusen els models de plagi i lamenten la pèrdua d'ingressos a causa del dúmping de preus. Comencem per ells, perquè aquesta part és molt més senzilla. Temer que els models prenguin la feina als professionals de debò fa riure. Jo faig un ús extensiu de la generació; fa poc fins i tot vaig intentar crear un videoclip. Al llarg del darrer any, totes les meves biblioteques han obtingut logotips nets i polits, documentació clara i un repertori complet de textos de suport. En el passat vaig intentar contractar dissenyadors professionals per als logos de les meves biblioteques (de codi obert, cal remarcar-ho). Volen diners (cosa que trobo perfecte, estava disposat a pagar), però a més a més: no volen (o no són capaços de) aprofundir en què fa realment una biblioteca concreta, o per què un groc cridaner que crema els ulls o un gargot infantil no em serveixen pas. Pertanyo a la categoria de clients que saben amb exactitud què necessiten, però manquen de la traça necessària per executar-ho en color i forma. M'importen un rave la «creativitat» o les al·lusions profundes i misterioses. La gent no es quedarà pas mirant el logotip de la meva biblioteca durant hores; no és pas la Mona Lisa. En resum, un model que genera una imatge nítida i recognoscible en tres iteracions és tres-centes vegades més fiable i còmode que un «esperit creatiu» a temps parcial.

Tinc una relació complicada amb la música: no sé cantar una melodia afinant amb precisió mil·limètrica, però sempre sé com hauria de sonar. Al capdavall, són les meves lletres. I m'importen prou com per no demanar a un conegut qualsevol que rasqui quatre acords per un parell de centenars de calés «a la seva manera». Ni tan sols estic segur que Max Martin em complagués en aquest context, però tampoc no hi ha manera de comprovar-ho: de totes maneres no em puc permetre Martin. El model, en canvi, ho farà exactament com jo necessito que ho faci, i retocarà la meva veu en aquells passatges on un gall hagi pogut més que el meu Cohen interior. I continuarà sent la meva veu.

Per a les lletres en anglès (i abans d'això, per a alguns cicles de poemes en rus escrits específicament per a veu femenina), vaig tenir la sort de trobar éssers humans reals que van connectar amb el material i van col·laborar amb mi: de franc i fins que vaig quedar satisfet amb el resultat. Per als poemes en rus que són, diguem-ne, importants per a mi, se'm va concedir l'oportunitat (una crossa, si voleu, per a un pseudomúsic coix) de fer-ho tot jo mateix, sense sortir de l'habitació i sense cometre errors. Fa més de trenta-cinc anys que escric poesia, però l'oportunitat d'enregistrar cançons reals amb aquests textos no ha arribat fins fa ben poc. Faig ús d'aquesta oportunitat amb un agraïment profund.

Hi ha, és clar, una trampa: si no sabés amb precisió quin resultat vull assolir, recórrer als models no tindria cap sentit. No pots obrir una finestra de xat, dir-li «Escriu un poema d'amor brillant» i esperar res que sigui mínimament digerible. Enllestir una quarteta rebel en un poema ja existent (preferiblement en anglès): això és del tot factible, i si cal fer-hi retocs, seran menors. L'operador del model continua necessitant sentit del ritme i oïda per a la llengua: dues qualitats que els assistents basats en models generatius mai no podran substituir.

Treballarien tots aquests vocalistes i músics amb mi en règim semialtruista només perquè comparteixen la meva visió sobre el codi obert i la música accessible? Doncs bé, fins ara he trobat dos músics que van connectar de debò amb les meves lletres, i un artista visual. Sóc més productiu del que el món em pot oferir com a repartiment de suport.


Passem ara a la programació.

A totes dues categories de persones esmentades al principi els faig sempre exactament la mateixa pregunta: «Ensenya'm el codi». Ja sigui el codi que generes feliçment com a «arquitecte estratègic», o el codi que produeixes tu mateix a palades sense cap assistent. I curiosament cap dels dos bàndols és capaç de mostrar ni una trista biblioteca de codi obert. Fa molt de temps que dic que si un desenvolupador no té codi open-source, en el millor dels casos és un enginyer de nivell intermedi ( mid-level ), sota qualsevol escala. És impossible assolir realment el nivell sènior sense haver aportat una muntanya de codi al nucli del llenguatge, a la biblioteca estàndard o a les biblioteques d'altres companys. Els aficionats fatxendes que coneixen un sol llenguatge dins d'un únic paradigma i exigeixen que se'ls anomeni «Señor» són impostors i novells; que se'n vagin a pastar fang.

Un model és incapaç de resoldre un problema mínimament complex que requereixi prendre decisions veritables. Un model que suposadament «raona» no és més que força bruta generativa amb poda heurística. Si voleu utilitzar l'eina amb profit, llegiu-vos el manual (en aquest cas, esbrineu què són realment l' Aprenentatge per Reforç i la Cadena de Pensament , per què un model no té gens de «memòria» ni en podrà tenir mai, i què fa exactament mentre «pensa»). Per tant, si no sou capaços de formular una tasca de manera que no hi hagi ni un sol punt de bifurcació (una sentència condicional) pel mig, no podreu fer servir els models amb eficàcia. Pitjor encara: no podreu confiar en el resultat. Ser capaç d'enquadrar tasques d'aquesta manera exigeix una dilatada experiència tant escrivint codi com en —bé— la formulació mateixa de tasques. Demanar «Fes-me un Uber, però millor» només serveix durant la fase de polir la interfície. La lògica de negoci continua depenent de l'ésser humà, i si aquest no escriu codi ell mateix incansablement, com dimonis sabrà formular la tasca com cal?

A mi personalment, els models generatius m'han ajudat a ser considerablement més productiu. Moltes de les meves biblioteques del darrer any no haurien vist mai la llum sense assistents d'IA, i els meus versos no s'haurien transformat en cançons que de debò desperten emocions en la gent. Tinc molt de codi que puc ensenyar sense vacil·lar. També puc assenyalar àlbums de música dels quals no m'avergonyeixo pas.

Tot això ha estat possible gràcies als models generatius, i per això els estic profundament agraït. Alhora, no em puc estar de llançar un advertiment: si necessiteu qualsevol cosa que no sigui un executor cec per dur a terme feina feixuga seguint fil per randa la vostra especificació detallada, un model no és pas el que busqueu.

No té cap sentit demanar consell a un model, contrastar-hi hipòtesis o demanar-li que trobi una solució. No és només inútil; és estrictament perillós. Delegar l'expertesa de domini en un assistent és pura follia (o sabotatge). Encomanar la resolució d'un problema a un model és com copiar en un examen: pot sortir-te bé o pot esclatar-te als morros. I aquestes són totes les regles senzilles per gaudir treballant amb allò que, amb tant d'engany, s'ha anomenat «intel·ligència artificial».