---
title: "Sigurnost AI sustava i kontrola podataka | Margins"
description: "AI sustavi s jasnim ovlastima, kontrolom nad podacima i ljudskim nadzorom."
url: https://margins.agency/hr/tehnologija/sigurnost
---

Sigurnost i povjerenje

# AI koji radi za vas i ostaje pod vašom kontrolom.

AI u poslovanju radi s najvrjednijim informacijama tvrtke: podacima o kupcima, internim procesima i znanjem zaposlenika.

Zato AI sustave razvijamo tako da podaci, infrastruktura i znanje ostanu pod vašom kontrolom.

- Kontaktirajte nas

- Razgovarajmo o vašim zahtjevima

Vaša infrastruktura. Vaši podaci. Znanje vaše tvrtke.

Naše načelo

## Vaši podaci vrijede više nego što mislite.

Što AI bolje poznaje vašu tvrtku, to je korisniji.

A upravo to znanje vaša je konkurentska prednost.

Što AI sve zna o vašem poslovanju

- Kupce.

- Proizvode.

- Procese.

- Poslovnu povijest.

- Dokumente.

- Odluke.

- Kako se radi svaki dan.

- Iskustvo zaposlenika.

Ne prepuštajte svoje poslovanje tuđem AI sustavu. Uvedite AI u vlastito okruženje.

Arhitektura

## Sigurnost planiramo prije prve linije koda.

Već u fazi projektiranja određujemo kuda putuju podaci, tko im ima pristup, gdje sustav radi i o kojim vanjskim uslugama ovisi.

01 · Podaci

### Gdje se informacije nalaze?

Utvrđujemo koje informacije AI treba, gdje su sada pohranjene i kamo se smiju prenositi.

02 · Modeli

### Koji model obrađuje podatke?

Model biramo prema osjetljivosti podataka i zahtjevima zadatka.

03 · Pristup

### Tko smije koristiti sustav i za što?

Prijavu, ovlasti i ograničenja prilagođavamo stvarnim korisnicima i procesima.

04 · Infrastruktura

### Gdje sustav radi?

Sustav postavljamo ondje gdje vama odgovara: u vaš oblak, privatni oblak ili na vlastite poslužitelje.

Sigurnost počinje u arhitekturi, a održava se svakodnevnim nadzorom.

Postavljanje sustava

## Svaka tvrtka treba drukčiju arhitekturu.

Razlikuju se infrastruktura, mjesto pohrane podataka, postojeća tehnologija i interna pravila.

### Vaš oblak

Rješenje postavljamo u vaše postojeće okruženje i infrastrukturu u oblaku.

### Privatni oblak

Izolirana infrastruktura kad vam treba veća kontrola.

### Vlastiti poslužitelji

Sustav radi na vašim poslužiteljima, u vašem podatkovnom centru.

### Hibridno okruženje

Osjetljivi podaci ostaju kod vas, a vanjske usluge koristimo samo gdje to ima smisla.

Arhitekturu određuju vaše potrebe, a ne ono što odgovara dobavljaču.

Kretanje podataka

## Uvijek znate kuda vaši podaci putuju.

Za svaki sustav jasno pokazujemo put podataka, od izvora do rezultata.

1. 01 **Odakle podaci dolaze**

2. 02 **Koji podaci ulaze u AI**

3. 03 **Gdje se obrađuju**

4. 04 **Koji ih modeli ili usluge primaju**

5. 05 **Što se pohranjuje**

6. 06 **Što se zapisuje**

7. 07 **Tko može pristupiti podacima**

8. 08 **Kamo idu rezultati**

Odabir modela

## Model biramo prema podacima i zadatku.

Ovisno o zadatku, koristimo:

01 **Najnaprednije modele vanjskih pružatelja**

Kad su njihove mogućnosti potrebne, a pravila za podatke to dopuštaju.

02 **Modele na vlastitoj infrastrukturi**

Kad treba veća kontrola nad infrastrukturom i informacijama.

03 **Modele otvorenog koda**

Kad su važni vlasništvo, prilagodba ili fleksibilnost postavljanja.

04 **Specijalizirane modele**

Za predviđanje, razvrstavanje, računalni vid ili druge specifične zadatke.

Biramo model koji najbolje odgovara zadatku, a ne najpoznatije ime.

Kontrola pristupa

## AI poštuje postojeće ovlasti.

Zaposlenik preko AI asistenta vidi samo ono što smije vidjeti i u svojim poslovnim sustavima. To uključuje:

- Provjeru identiteta

- Pristup prema ulozi

- Korisničke ovlasti

- Ovlasti u sustavima

- Ograničenja pristupa pojedinim podacima

- Odvajanje okruženja

- Upravljanje pristupnim ključevima

- Zapis svih pristupa

Primjer · voditelj prodaje Poslovni sustav AI asistent

Cijene za kupce ✓ ✓

Evidencije plaća ✕ ✕

Prodajne prilike vlastitog tima ✓ ✓

Dokumenti uprave ✕ ✕

AI ne zaobilazi pravila vaših sustava.

Rizici specifični za AI

## Sigurna infrastruktura tek je dio zaštite.

AI se ponaša drukčije od klasičnog softvera, pa traži i dodatnu zaštitu.

- ! Rezultati mogu biti netočni.

- ! Neočekivani upiti mogu zbuniti model.

- ! AI može dohvatiti pogrešne ili nedopuštene informacije.

- ! AI agenti mogu izvršavati radnje u drugim sustavima.

- ! Zlonamjerne upute skrivene u sadržaju mogu pokušati promijeniti ponašanje sustava (tzv. prompt injection).

- ! Osjetljive informacije mogu nenamjerno ući u AI procese.

- ! Promjene kod vanjskih pružatelja mogu promijeniti rezultate.

1. 01 **Kontrola ulaza** — Određujemo koji podaci smiju ući u sustav.

2. 02 **Kontrola konteksta** — Određujemo što AI smije dohvatiti.

3. 03 **Kontrola alata** — Ograničavamo sustave i radnje dostupne AI-ju.

4. 04 **Kontrola rezultata** — Provjeravamo rezultate kad je to potrebno.

5. 05 **Kontrola radnji** — Tražimo ljudsko odobrenje za važne radnje.

6. 06 **Praćenje** — Pratimo rad sustava u stvarnoj primjeni.

Što AI radi samostalnije, to su kontrole strože.

Uloga čovjeka

## Odredite koje odluke ostaju na ljudima.

Koliko AI smije sam odlučivati ovisi o cijeni pogreške. Prijedlog e-maila ne treba odobrenje, a financijska odluka treba.

01

### Podrška

AI predlaže. Čovjek odlučuje.

02

### Priprema

AI priprema radnju. Čovjek je odobrava.

03

### Nadzirani rad

AI radi sam, a čovjek provjerava iznimke.

04

### Automatizacija

AI djeluje automatski u kontroliranim uvjetima.

Manje samostalnosti Kako raste povjerenje → Više samostalnosti

AI dobiva više samostalnosti tek kad dokaže da je pouzdan.

Uvid u rad sustava

## Svaki korak AI-ja može se provjeriti.

Bilježimo svaki zahtjev, poziv modelu, korištenje alata, odluku i ljudsku intervenciju, pa se svaki problem može istražiti.

Bez uvida u rad nema ni odgovornog upravljanja.

Zapis izvršavanja · ilustrativni primjer req\_7f3a

1. 09:14:02.118 **Zahtjev korisnika** „Kod kojih kupaca narudžbe padaju ovo tromjesečje?”

2. 09:14:02.140 **Provjera pristupa** Uloga: voditelj prodaje · Regija: Sjever

3. 09:14:02.205 **Dohvaćeni kontekst** 3 izvora · unutar korisničkih ovlasti

4. 09:14:02.891 **Poziv modelu** Model odabran prema pravilima

5. 09:14:03.010 **Korištenje alata** Upit ERP-u · samo čitanje

6. 09:14:03.420 **Odluka sustava** Izdvojeno 12 kupaca

7. 09:14:03.433 **Ljudska intervencija** Zatražena provjera za 2 kupca

8. 09:14:03.440 **Performanse** 1,3 s · unutar zadanog praga

Rad u praksi

## Povjerenje se gradi u svakodnevnom radu.

Nakon implementacije sve se nastavlja mijenjati. Zato možemo preuzeti praćenje i održavanje sustava i brinuti da i dalje radi ispravno i pouzdano.

[Pogledajte upravljanje i održavanje AI sustava](https://margins.agency/hr/usluge/upravljanje-i-odrzavanje-ai-sustava)

- Modeli se mijenjaju.

- Vanjske ovisnosti se mijenjaju.

- Korisnici se mijenjaju.

- Podaci se mijenjaju.

- Integracije se mijenjaju.

- Pojavljuju se nove vrste pogrešaka.

Nadzor i upravljanje

## Cijeli AI sustav na jednom mjestu.

Rivermind je naša platforma za upravljanje AI sustavima. Povezuje modele, podatke, alate, pravila i procese te omogućuje nadzor u svakodnevnom radu.

- Koordinacija komponenti

- Pravila

- Kontrola procesa

- Odabir modela za svaki zahtjev

- Uvid u rad sustava

- Uključivanje ljudi

[Istražite Rivermind (otvara se u novoj kartici)](https://getrivermind.com/)

Razvijeno za vaše poslovanje

## Znanje koje stvarate ostaje vrijednost vaše tvrtke.

Što AI bolje poznaje vaše poslovanje, to više vrijedi. Zato ga razvijamo u vašem okruženju, a ne kao zatvoreno SaaS rješenje.

Ne želimo da ovisite o nama. Želimo da vaša tvrtka bude jača i samostalnija.

Naša načela

## Na čemu gradimo povjerenje.

1. 01 **Kontrola** — Uvijek znate gdje rade sustavi i gdje su podaci.

2. 02 **Najmanji potreban pristup** — AI dobiva samo podatke potrebne za zadatak.

3. 03 **Odvajanje** — Jasne granice između korisnika, sustava i okruženja.

4. 04 **Uvid u rad** — Uvijek možete vidjeti što sustav radi.

5. 05 **Ljudski nadzor** — Ljudi odlučuju kad su posljedice velike.

6. 06 **Vlastito znanje** — AI jača vašu tvrtku, a ne vašu ovisnost o dobavljaču.

Vaši zahtjevi

## Krećemo od vaših pravila i ograničenja.

Prije odabira arhitekture zajedno prolazimo sve zahtjeve.

**Imate posebne zahtjeve za sigurnost, infrastrukturu ili podatke?** Arhitekturu ćemo oblikovati prema njima.

- Osjetljivost podataka

- Infrastruktura

- Postojeće okruženje u oblaku

- Interni sustavi

- Identiteti i pristup

- Usluge vanjskih pružatelja

- Pružatelji AI modela

- Mjesto pohrane i obrade podataka

- Rizici u radu

- Ljudski nadzor

- Zakonska i regulatorna pravila

Od početka do svakodnevnog rada

## Sigurnost u svakoj fazi projekta.

1. 01 **Upoznavanje** Upoznajemo procese i podatke.

2. 02 **Projektiranje** Određujemo arhitekturu, tok podataka i pristup.

3. 03 **Razvoj** Razvijamo sustav s ugrađenim kontrolama.

4. 04 **Implementacija** Uvodimo sustav u odobreno okruženje.

5. 05 **Edukacija** Učimo korisnike kako ga ispravno koristiti.

6. 06 **Uhodavanje** Uspostavljamo pravila svakodnevnog korištenja.

7. 07 **Upravljanje** Pratimo rad i pouzdanost sustava.

8. 08 **Poboljšavanje** Prilagođavamo rješenje promjenama u poslovanju.

Zašto Margins

## Jedan partner za cijeli sustav.

Sigurnost ovisi o tome kako AI surađuje sa softverom, podacima, infrastrukturom i ljudima. Mi pokrivamo sve to.

01

### Razvoj AI rješenja

Razvijamo modele, agente i sustave za dohvat podataka.

02

### Razvoj softvera

Razvijamo aplikacije i servise koji ih povezuju s poslovanjem.

03

### Podaci i infrastruktura

Projektiramo okruženja i tokove informacija u pozadini sustava.

04

### Povezivanje s poslovnim sustavima

AI povezujemo sa sustavima koje već koristite.

05

### AI edukacija i podrška timovima

Učimo zaposlenike kako AI koristiti sigurno i korisno.

06

### Upravljanje i održavanje AI sustava

Brinemo o sustavu i nakon implementacije.

Jedan partner, jedna odgovornost.

Tehnička provjera

## Imate pitanja o sigurnosti ili arhitekturi?

Uključite svoj IT tim od prvog razgovora. Zajedno ćemo proći arhitekturu, način postavljanja, kretanje podataka i upravljanje sustavom.

Kontaktirajte nas

AI prema vašim uvjetima

## Uvedite AI i zadržite kontrolu nad onim što vašem poslovanju daje vrijednost.

Arhitekturu oblikujemo zajedno s vašim timovima, prema vašim sustavima, podacima i razini rizika.

[Kontaktirajte nas](https://margins.agency/hr/kontakt)

[Pogledajte razvoj AI rješenja →](https://margins.agency/hr/usluge/razvoj-ai-rjesenja)