Devx

Období auditu je tady. ISO 27001 je pro nás v devx každoroční prověření procesů, bezpečnosti a řízení. Nám to dává pořádek a standard naší práce a našim partnerům ujištění, že bezpečnost a kvalitu nebereme na lehkou váhu. Pokaždé si uvědomujeme jednu věc: firmy, které zvládnou governance dnes, budou připravené na audity zítřka. Dnes řešíme hlavně procesy, řízení rizik a bezpečnost dat. Ale otázka, která dělá mnoha podnikům obavy je, jak bude jednou vypadat audit třeba toho AI. Zatím těch požadavků moc není. Vrchol s čím se můžeme potkat je AI Act na evropské úrovni. A ten po nás chce jen základní úroveň transparentnosti. Všichni ale chceme být důvěryhodní dlouhodobě. A přijde doba, kdy se postavíme před nepříjemné otázky, které nebude možné nijak obejít. - odkud pocházejí tréninková data, a jakou kompetenci má správce? - jak model rozhoduje, a kdo mu říká, jestli je to rozhodnutí férové? Nejsou to jen technické otázky. Žijeme ve světě systémových nerovností a AI je trénována na datech, která tyto vzorce často kopírují. To je problém volně dostupných modelů, protože ne všechna data reprezentují veřejná a sociální očekávání. Firmy by se neměly bát auditu samotného, ale toho, co může odhalit. Třeba firemní kulturu, nedostatečnou mitigaci nebo nepochopení sociálních dopadů. Takže technologii valíme kupředu prakticky neregulovaně a já jen nevím, jestli nezapomínáme na to, jaká data o nás jednou zveřejní a jaké hodnocení nám audit dá na plaketku. Auditory AI jen tak nenahradí. Razítko od stroje nikdo vážně brát nebude. A až vznikne potřebná legislativa, auditoři na ty naše AI kravinky vytáhnou drápy. Do té doby jsem spokojený s tím, jak Devx zvládá vysoké nároky bezpečnosti a managementu v rámci ISO 27001. Tak zase za rok. Co váš přístup k zodpovědnému užití AI, jak by popsalo vaše procesy? #audit, #ISO, #AI, #transparency

Jak u projektu narazit hned třikrát. Nedávno jsme úspěšně ukončili a na adrese https://lnkd.in/dw7-N7m4 vydali projekt “Nuclear Weapon-Free Zones Hub” pro našeho klienta z OSN, konkrétně pro agenturu United Nations Institute for Disarmament Research (UNIDIR). Projekt má za cíl vizualizovat na mapě smlouvy a klíčová ustanovení pěti světových bezjaderných zón. Podobných webů jsme už dělali několik, měli jsme co použít a očekávali jsme rychlý projekt bez komplikací. Bohužel! Takhle naivní jsme asi neměli být. Ale byli. První “cože” přišlo na začátku. Vše bylo domluvené, ale klient si dal krátký komunikační oddych. Pak ale přišel email od klienta, jak jste na tom a kdy může vidět výsledek. Pro nás to byl signál kompletně přeházet priority projektů a okamžitě zahájit práce. Druhá mylná myšlenka byla, že by šlo něco pře-použít beze změn. Zní to jednoduše, ale realita je jiná. Z počátku jsme věřili, že to na pohodu stihneme do konce roku a nemůže nás nic překvapit. Klient nám řekl, co potřebuje. My jsme představili wireframes. Vše se zdálo, že běží jak na drátkách. Projekt vypadal téměř hotový a plánovali jsme nasazení před Vánoci. Ať máme klid a nemusíme se k tomu vracet v dalším roce. Následovalo další rádiové ticho a zpětná vazba víceméně úplně chyběla. Pak to přišlo. Dvě “malé” připomínky. Zdánlivě malé úpravy mapy znamenaly další měsíce práce. - Navržené UX pro srovnávání jednotlivých článků bezjaderných dohod byl zbytečné složitý. Hlavně ale bylo naše nepochopení, že se jedná o jednu z nejdůležitějších funkcí portálu. Věděli jsme, že na to už sami nestačíme, a tak jsme si pozvali na pomoc ostříleného UX designéra Ondřej Konečný, který bezodkladně namyslel pár variant a vrátil projekt zpět do kolejí. - Další připomínka se týkala dynamické mapy, kterou pro různé portály OSN udržujeme už víc jak 5 let. “Tady po najetí myší bychom chtěli jinou barvu a tady ty státy nějak spojit do skupin ať se přebarví najednou. Také bychom chtěli použít 5 různých barev, kde každá má další 3 odstíny podle zadaných dat, to přeci je rychlovka ne?” Nebyla. Ladili jsme to další měsíc, měli několik schůzek s klientem, a posun kupředu byl pomalý. Zejména vzhledem k množství zákaznických úprav jinak zcela standardního řešení použitých na ostatních portálech OSN. Projekt je ale úspěšně venku a máme z něj jasná ponaučení. O jedno se s vámi klidně podělíme. Tahle práce není jednoduše o tom něco okopírovat a myslet si, že nám větší marže zlepší den. Přesně tato myšlenka vás dostane na práh profitability. Každý projekt je unikátní. Jen se to projeví vždy v jinou chvíli. A u nás v Devx na to zase nějakou dobu nezapomeneme. Více o tomto projektu najdete zde https://lnkd.in/dsaCwqew #UN #leaflet #GIS #reuse #fuckups

Razíme si svou cestu v OSN. Nedávno jsem měl možnost zúčastnit se akce organizované zástupci CzechTrade Austria s názvem Doing Business with the UN. Kromě individuálních konzultací jsem byl také pozván k účasti na panelové diskusi společně se zástupci agentur OSN World Health Organization a UNDP, kde jsme debatovali o best practices v projektech pro OSN. Vstřícnost a otevřenost diskusí během dvoudenního eventu mě potěšily a příjemně překvapily. Bylo skvělé vidět, že úsilí, které do projektů pro OSN dlouhodobě vkládáme, má skutečnou odezvu. Mluvili jsme například o tom, jakou složitost dnes nese administrace kolem realizace projektů, co pro naše projekty byla největší zkouška nebo jaké možnosti dnes firmy mají, aby se v OSN dlouhodobě udržely. Díky skvělé organizaci týmu pod vedením Julie Havlova jsem měl možnost potkat zástupce maďarských, slovenských i českých firem stejně tak, jako s diplomaty z české ambasády ve Vídni a OSN. Něco zajímavého se podařilo i domluvit. Ale hlavně se mi znovu potvrdilo, že budování dlouhodobého partnerství je klíčové. Obzvlášť v prostředí OSN, kde má Devx dnes za sebou už 15 velkých projektů a celou řadu menších. Podpora českých firem v mezinárodním prostředí je důležitá a já sám hledám cesty, které stojí za to vyzkoušet. Pokud máte námět, který stojí za diskusi, ozvěte se mi. Něco vymyslíme. #CzechTrade #OSN #events #procurement Více o události zde: https://lnkd.in/gMBH5uS8

Dnes máme v #devx super zprávu. Zahájili jsme oficiální partnerství s #Vendure. Jedná se o moderní headless e‑commerce platformou, kterou považujeme za jeden z nejlepších základů pro rychlé, stabilní a dlouhodobě udržitelné e‑shopové systémy. Partnerství pro nás znamená dvě věci: - Vendure přináší osvědčené nástroje a technologickou kvalitu. - My přidáváme roky zkušeností s návrhem architektury, integracemi a vývojem komplexních e‑commerce řešení. Společně tak stavíme moderní e‑commerce, která vydrží, roste a dává firmám skutečnou technologickou jistotu. A zároveň věříme, že nejlepší výsledky vznikají z dlouhodobých partnerství; jak s technologickými platformami, tak s našimi klienty. A mimochodem, první společný projekt už máme úspěšně za sebou. O tom ale zase příště. Pokud přemýšlíte, jak posunout online prodej nebo vybudovat e‑shop, který zvládne růst i náročné integrace s dopravci a platebními branami, ozvěte se. Rádi pomůžeme. 🔗 https://lnkd.in/d8MW4pq2 #ecommerce #partnership #customdev #eshop

Jak přinutit AI agenta, aby sám bezpečně pracoval s tajnými daty? Klasický RAG nestačí. My v #devx jsme pro OSN postavili Agentic RAG s custom tools na míru. Když vyvíjíte podnikového AI asistenta (RAG) nad citlivými daty, dříve nebo později narazíte na zásadní problém: řízení přístupu k dokumentům (Document-Level Security). My jsme tento oříšek řešili při návrhu architektury pro platformu eCBM pod úřadem OSN pro odzbrojení (UNODA), která spravuje opatření k posílení důvěry úmluvy o biologických zbraních. Proč "naivní RAG" v enterprise sféře totálně selhává? V klasickém RAG systému se všechny dokumenty rozsekají na fragmenty, převedou na vektory a uloží do jedné databáze. Pokud neautorizovaný uživatel položí dotaz, který je sémanticky podobný tajnému dokumentu, systém vyhledá nejbližší vektory (včetně těch tajných) a pošle je do LLM jako kontext. Následně LLM s radostí vygeneruje odpověď obsahující utajovaná fakta. Spoléhat na prompt engineering (např. instruovat LLM "neodpovídej na věci, ke kterým nemá uživatel přístup") je bezpečnostní sebevražda. LLM nejsou deterministické bezpečnostní brány a podléhají útokům typu prompt injection. Naše řešení: Agentic RAG & Authorization-First Tools Rozhodli jsme se pro mnohem robustnější architekturu. Bezpečnost jsme delegovali mimo samotné LLM - přímo do vlastních nástrojů (custom tools), které si model autonomně volá. Tento koncept se v teorii bezpečnosti AI označuje jako Authorization-First Retrieval. Zaručuje, že model se k neautorizovaným datům v kontextovém okně vůbec fyzicky nedostane. Co model nevidí, to nemůže prozradit. Jak řešíte bezpečnost dat v AI aplikacích vy? Spoléháte na prompty, nebo máte bezpečnost pevně v rukou vašich backendových služeb? Kontaktujte nás, rádi vám s vašim projektem pomůžeme. #AI #AgenticRAG #EnterpriseAI #CyberSecurity #Elasticsearch #NodeJS #UNODA #BWC #VectorSearch #ToolCalling

Do dlouhodobého projektu pro jednoho z klíčových klientů Devx hledáme šikovného medior testera, který umí převzít odpovědnost, má cit pro detail a chce pracovat v týmu. Pokud tě baví kvalita, stabilita a jsi z okolí Třince, ozvi se. Rád ti řeknu víc. A nebo si o našem týmu přečti na https://lnkd.in/dE7gck3V #hiring #tester #qa #devx

AI tohle, AI tamto. Poslední měsíce k nám chodí čím dál víc poptávek, kde zadavatel věří, že AI je spasí. A já si říkám, jestli to tak opravdu bude. Vidíme to u konkurence. Na sítích. V rozhovorech. AI mění podnikání a to, jak přemýšlíme. Ale tlak „něco s AI udělat“ je dnes často větší než samotný problém, který má řešit. A tady je myšlenka, která se semnou táhne už roky z projektů postavených na složitých algoritmech: -> Výsledek je vždy jen tak dobrý, jak dobrý je vstup. A AI není výjimka. Učí se na tom, co už někdo vytvořil. Hledá nejpravděpodobnější řešení. A nejpravděpodobnější řešení je … průměr. Ne proto, že by nechtěla být originální. Přísný prompt (často s bičem v ruce) to po ni chce. Jen nemá z čeho čerpat. Stejně jako zástupy turistů, kteří vynaloží čas, peníze a úsilí, aby si udělali tu samou fotku, kterou před nimi pořídily miliony dalších. Originalita vzniká tam, kde se potká zkušenost, intuice, emoce a kontext. A tomuhle u nás v #devx rozumíme. AI nástroje používáme. Ladíme je. Integrujeme tam, kde dávají smysl. Ale nenahrazujeme lidi průměrnými agenty. A už vůbec ne nástroji, kterým nerozumíme. Naši klienti jsou často velmi nároční a očekávají absolutní bezpečí svých dat a aplikací. A to si hlídáme. Chce to transparentní, kontrolovaný proces a tým, který ví, co dělá. Protože pokud chceme lepší AI, musíme být nejdřív lepší my. Zaujal vás náš přístup? Napište mi. Rád se podívám i na váš projekt. PS: nedávno mi do mailu přistál newsletter s připomenutím citátu bývalého kouče 49ers, Billa Walshe: “If you aim for perfection and miss, you're still pretty good, but if you aim for mediocre and miss?” #nocode #regulation #cybersecurity #NIS2

Automatizace nám šetří čas a zkracuje naše To-Do listy. Na začátku tohoto roku jsme začali analyzovat řešení pro klienta, který chce automatizovat vnitřní procesy, aby nemusel hlídat termíny a schvalovací kroky na projektech trvající i pár let. Takto jsme se dostali k open-source workflow enginu a začali automatizovat vše uvnitř firmy, protože i my často musíme dělat každý den/týden/měsíc to samé a zapomínáme na to. V Devx jsme s automatizací naší rutiny teprve začali, ale už jsou první viditelné výsledky: - Pravidelné pondělní zápisy z SU schůzek, kde nám s kontrolami pomáhá AI. - Nasazování vlastních prototypů z githubu přímo na kubernetes, upozornění a kontrolu nad těmi co běží. - Security audity nad repositáři projektů, které se spouští v pravidelných intervalech i pří každém nasazení, abychom odhalili hrozbu v npm balíčcích co nejdříve. - Zadání nového tasku řešíme přímo ze Slacku. V projektovém channelu jednoduše napíšeme něco jako „Tohle chování se mi nezdá, není to chyba?“. Pokud vývojář potvrdí, že ano, AI z konverzace automaticky připraví návrh zadání, předloží ho ke kontrole a po schválení vytvoří task v příslušném projektu. - A další jsou na cestě... Nejvíce hrdý jsem právě na security audity, protože co se děje v poslední době například s axios nebo Next.js balíčky a jejich bezpečnostními chybami nebo útoky, je opravdu nebezpečné. Takto můžeme my i naši klienti lépe spát. Díky propojení s našim interním Slackem jsme neustále up to date a reagujeme prakticky okamžitě. Co si z toho odnést? Pokud nad automatizací jen přemýšlíte, jděte do toho. Reálně vám to ušetří hromadu času a odlehčí operativu. Pozor ale na nevýhodu: od teď všude vidíme potenciál na automatizaci a nemá to konec! A pokud vás zajímá, jak můžeme s vývojem pomoci třeba i vašemu projektu, neváhejte se mi ozvat. #workflow #AI #optimalizace #cybersecurity

Na úvod se sluší říct, že jsem tento příspěvek napsal sám. Ne AI. U nás si totiž chceme super projekty představit sami, bez AI generovaných keců. A tenhle za to rozhodně stojí. Na začátku roku jsme se pustili do významného projektu s Úřadem United Nations pro otázky odzbrojení (UNODA). Množství projektů, které jim projde pod rukami je šílené. Možná to z velkých korporátů znáte taky. Nekonečná administrativa, schvalovací kolečka, sestavení týmu a 1-2 změnová řízení se stihnou ještě před samým začátkem. V UNODA týmu se ale rozhodli, že je čas uvolnit si ruce a přenechat tohle pokročilé automatizaci a umělé inteligenci. Zmapovat celé procesy a navrhnout architekturu byl oříšek sám o sobě a 3 měsíce tam zmizely bez problému. Dneska máme silný základ hotový, specifikace je 🔥🔥🔥 a design nové automatizované platformy odpovídá přísným standardům OSN. Tohle vše jsme si precizně připravili, abychom se mohli naplno opřít do vývoje. Jádrem projektu je implementace workflow enginu. Orchestrace těchto procesů není žádná sranda a bez pořádné přípravy a správně navrženého setupu bychom se v řízení tak složitého rozvrhu procesů snadno utopili. Jaké jsou technologické výhody a omezení workflow engine nechám někdy jindy popsat kolegy. Mě stačí vědět, že je tento projekt u nás v dobrých rukou, partneři z OSN nám, jako vždy, s digitálními projekty důvěřují a v létě je velké finále. Dám pak vědět, jak to celé dopadlo a s čím jsme bojovali. Věříme, že se přidá do řady úspěšných projektů, které už jsme s OSN realizovali. Mimochodem, v červnu o tom popovídám na setkání na setkání se zástupci OSN ve Vídni trochu víc. Mimo jiné třeba taky o tom, jak se nám daří implementovat složitost a nestrannost OSN ve světové mapě nebo jak AI mění způsob prezentace programů OSN. Organizaci zajišťuje CzechTrade Austria a třeba se i ostatní dodavatelé něco naučí 🙂 A pokud vás zajímá, jak můžeme s vývojem pomoci třeba i vašemu projektu, neváhejte se mi ozvat. Děláme to dobře, poctivě a i když si občas od AI necháme pomoc, za bezpečí dat a kódu dáváme ruku do ohně. Bez zbytečností. Bez kompromisů. V týmu devx. #automatizace #workflow #AI #OSN #customdevelopment