Eficiència mitjançant l'Autoallotjament (Self-Hosting): Gestió Estratègica de Costos d'IA

Al principi del nostre viatge, vam notar una tendència que moltes empreses en creixement afronten: a mesura que el nostre equip s'expandia, els costos de subscripció augmentaven ràpidament. Les despeses generals mensuals ja no tenien sentit per al nostre resultat final. Aquesta realització va canviar la nostra filosofia operativa. En lloc d'optar per defecte per una decisió de 'comprar' per a cada necessitat de programari, vam decidir prioritzar l'autoallotjament de les nostres eines internes.

Avui dia, allotgem gairebé tot nosaltres mateixos, des de gestors de tasques i notes d'enginyeria fins a entorns d'allotjament interns. Només confiem en el núvol quan és absolutament necessari. Fins i tot per al nostre clúster de GPU, evitem les trucades directes a l'API de serveis com Gemini. Com que gestionem intel·ligència de risc d'alt volum i processament d'IA, dependre només d'API externes seria prohibitiument car. En gestionar la nostra pròpia infraestructura, obtenim una comprensió més clara dels nostres costos i millors capacitats de monitoratge.

Més enllà de l'estalvi financer, l'autoallotjament s'ha convertit en un motor d'aprenentatge massiu per al nostre equip. Ofereix a tothom una perspectiva més profunda sobre el que es necessita per construir i mantenir un sistema. Quan gestiones la infraestructura tu mateix, aprens com funcionen els sistemes internament, què fa que un producte se senti 'bo' i com construir-lo per a una veritable fiabilitat. Converteix les nostres operacions internes en un camp d'entrenament per a l'excel·lència en enginyeria.

Vull ser clar: estic en contra de construir eines des de zero si no s'alineen amb la visió central de la nostra empresa. No volem reinventar la roda. No obstant això, gairebé sempre triarem autoallotjar una solució de codi obert existent abans de considerar una subscripció de pagament. Tanta gent amb talent construeix productes increïbles i els llança com a codi obert, i creiem en aprofitar aquesta innovació.

Hem integrat diverses eines potents al nostre flux de treball que recomano molt a qualsevol empresa que vulgui prendre més control sobre la seva pila tecnològica. Utilitzem projectes com Plane per a la gestió de projectes, Fizzy, Docmost, i NocoDB. Anteriorment també fèiem servir GetOutline per a la nostra documentació. Aquestes eines són robustes, fiables i ens han permès escalar de manera eficient sense que l'"impost de subscripció" ens alenteixi.

En la meva pròxima publicació, aprofundiré en les eines que utilitzem i compartiré les nostres experiències sobre el que va funcionar i el que no.