Naslovnica SCI-TECH Dizajnirana sigurnost | Vijesti.TV

Dizajnirana sigurnost | Vijesti.TV

784
0
UDRUŽUJU SE MG I ARSENAL

W
dobrodošli na Vijesti.TV Exchange, tjedni bilten o startupima i tržištima. Inspiriran je dnevnom kolumnom Vijesti.TV+ po kojoj je i dobio ime. Želite li je svake subote u vašem inboxu? Prijavite se ovdje.

Sposobnost tehnologije da ponovno izumi kotač ima svoje loše strane-može značiti ignoriranje očiglednih istina koje su drugi već naučili. Ali dobra vijest je da novi osnivači ponekad to sami shvaćaju brže od svojih prethodnika. — Anna

AI, povjerenje i sigurnost

Ova godina je olimpijska godina, prijestupna godina. . . I također the izborna godina. Ali prije nego što me optužite za propust SAD-a, ne mislim samo na nastavak Bidena protiv Trumpa-više od 60 zemalja održava nacionalne izbore, a da ne spominjem izbore za Europski parlament.

Na koji bi način svaki od ovih glasova mogao utjecati na tehnološke tvrtke- Na primjer, različite strane imaju različite stavove o regulaciji umjetne inteligencije. Ali prije nego što se izbori uopće održe, tehnologija će također imati ulogu u jamčenju njihovog integriteta.

Izborni integritet vjerojatno nije bio na umu Marka Zuckerberga kada je kreirao Facebook, a možda čak ni kada je kupio WhatsApp. Ali 20, odnosno 10 godina kasnije, povjerenje i sigurnost sada su odgovornost od koje Meta i drugi tehnološki divovi ne mogu pobjeći, htjeli oni to ili ne. To znači raditi na sprječavanju dezinformacija, prijevara, govora mržnje, CSAM-a (materijala seksualnog zlostavljanja djece), samoozljeđivanja i više.

Međutim, AI će vjerojatno otežati zadatak, i to ne samo zbog deepfakeova ili osnaživanja većeg broja loših glumaca. Kaže Lotan Levkowitz, generalni partner u Grove Ventures:

Sve te platforme za povjerenje i sigurnost imaju ovu bazu podataka za dijeljenje hash vrijednosti, tako da tamo mogu prenijeti ono što je loše, podijeliti sa svim svojim zajednicama i svi će to zajedno zaustaviti- ali danas mogu istrenirati model da to pokuša izbjeći. Dakle, čak i klasičniji rad na povjerenju i sigurnosti, zbog Gen AI, postaje sve teži i teži jer algoritam može pomoći zaobići sve te stvari.

Iz naknadne misli u prvi plan

Iako su internetski forumi već naučili ponešto o moderiranju sadržaja, Facebook nije postojao priručnik za društvene mreže koji bi slijedio kad se rodio, pa je donekle razumljivo da će mu trebati neko vrijeme da doraste zadatku. No obeshrabrujuće je saznati iz internih Metinih dokumenata da je još 2017. još uvijek postojala unutarnja nevoljkost u donošenju mjera koje bi mogle bolje zaštititi djecu.

Zuckerberg je bio jedan od pet izvršnih direktora društvenih medija koji su se nedavno pojavili na saslušanju američkog Senata o sigurnosti djece na internetu. Svjedočenje nije bilo prvi put za Metu, ali također je vrijedno pažnje da je Discord bio uključen- iako se razgranao izvan svojih korijena igara, podsjetnik je da se prijetnje povjerenju i sigurnosti mogu pojaviti na mnogim online mjestima. To znači da bi aplikacija za društvene igre, na primjer, također mogla izložiti svoje korisnike riziku od krađe identiteta ili groominga.

Hoće li novije tvrtke postati vlasnici brže od FAANG-a? To nije zajamčeno-osnivači često djeluju prema prvim načelima, što je dobro i loše- krivulja učenja moderiranja sadržaja je stvarna. Ali OpenAI je puno mlađi od Mete, pa je ohrabrujuće čuti da formira novi tim za proučavanje sigurnosti djece — čak i ako je to možda rezultat pomnog nadzora kojem je podvrgnut.

Neki startupi, međutim, ne čekaju znakove problema da bi nešto poduzeli. Dobavljač rješenja za povjerenje i sigurnost s omogućenom umjetnom inteligencijom i dio portfelja Grove Venturesa, ActiveFence bilježi više ulaznih zahtjeva, rekao mi je njegov izvršni direktor Noam Schwartz.

“Vidio sam mnogo ljudi koji su se obratili našem timu iz tvrtki koje su tek osnovane ili čak prije pokretanja. Oni razmišljaju o sigurnosti svojih proizvoda tijekom faze dizajna (i) usvajaju koncept koji se zove sigurnost po dizajnu. Zalažu se za sigurnosne mjere unutar svojih proizvoda, na isti način na koji danas razmišljate o sigurnosti i privatnosti kada gradite svoje značajke.”

ActiveFence nije jedini startup u ovom prostoru, koji je Wired opisao kao “povjerenje i sigurnost kao uslugu”. Ali jedan je od najvećih, pogotovo otkako je u rujnu kupio Spectrum Labs, pa je dobro čuti da među njegovim klijentima nisu samo velika imena koja se boje PR krize i političkog nadzora, već i manji timovi koji su tek počeli. Tehnika također ima priliku učiti iz prošlih pogrešaka.


Izvor-techcrunch.com


Pratite nas na Facebook-u | Twitter-u | YouTube-u


Dio Vijesti.TV medije.

WPAP (190)