SplxAI, ambiciozna tvrtka specijalizirana za sigurnost umjetne inteligencije, upravo je osigurala 2 milijuna dolara u pre-seed financiranju. Ova značajna investicija predvođena je fondom Inovo.vc uz podršku South Central Ventures i Runtime Ventures. SplxAI planira ubrzati razvoj svoje platforme za ofenzivnu sigurnost AI tehnologija, čiji je cilj omogućiti poduzećima sigurno korištenje generativne AI kao konkurentske prednosti.
Foto: Kristian Kamber i Ante Gojsalić (AI edit)
Sve veći sigurnosni rizici generativne AI
Razvoj generativne AI tehnologije, uključujući chatbotove i konverzacijsku umjetnu inteligenciju, uvelike mijenja način interakcije poduzeća s korisnicima. Oko 1,5 milijardi ljudi globalno aktivno koristi ove tehnologije, posebno u sektorima kao što su zdravstvena skrb, financije i osiguranje. No, s brzim usvajanjem ovih tehnologija dolaze i novi sigurnosni izazovi. Incidenti poput ChatGPT proboja podataka 2023. godine i pristranih odgovora drugih AI asistenata otkrivaju stvarne rizike koje AI aplikacije mogu donijeti korisnicima.
Tradicionalne sigurnosne mjere ne mogu učinkovito prepoznati i ublažiti ove rizike zbog brzine kojom generativne AI tehnologije napreduju. Upravo zato je misija SplxAI-a pružiti poduzećima potrebne alate za sigurno lansiranje AI aplikacija.
Kako SplxAI rješava sigurnosne izazove
SplxAI razvija prvu cjelovitu platformu za ofenzivnu sigurnost AI, s posebnim naglaskom na izazove koje donose konverzacijska umjetna inteligencija i tehnologije velikih jezičnih modela (LLM). Platforma automatizira stotine naprednih scenarija napada, poput ubrizgavanja promptova, off-topic razgovora i "halucinacija", što omogućava AI stručnjacima za sigurnost da identificiraju ranjivosti prije nego što ih zlonamjerne aktivnosti iskoriste.
Jedna od ključnih prednosti platforme je jednostavna integracija u CI/CD procese, što omogućava proaktivno osiguranje svih faza razvoja AI aplikacija. Također, SplxAI omogućuje korisnicima praćenje zlonamjernih aktivnosti u stvarnom vremenu, mapiranje rizika prema sigurnosnim okvirima kao što su MITRE ATLAS, OWASP LLM Top 10 i NIST AI RMF, te podržava testiranje na više modaliteta, uključujući tekst, glas, slike i video.
Što slijedi za SplxAI
Očekuje se da će tržište sigurnosti generativne AI porasti s 7 milijardi dolara u 2024. na 40 milijardi dolara do 2030. godine. Ovo financiranje omogućit će SplxAI-u da ubrza razvoj proizvoda, proširi svoj tim i skalira svoje operacije. Tvrtka planira ostati lider u ofenzivnoj sigurnosti za AI i pomoći poduzećima da s povjerenjem usvoje generativne AI tehnologije.
Ovo je samo početak dugog putovanja za SplxAI, a daljnja uzbudljiva ažuriranja tek slijede.
Više možete pročitati na https://splx.ai/
