Implementeringen av kunstig intelligens (AI) i produksjonsmiljøer krever høy grad av sikkerhet, trygghet og pålitelighet. Dette blir enda mer utfordrende når flere AI-systemer, som industrielle roboter, robotceller og Dype Nevrale Nettverk (DNN-er), samhandler både med hverandre og med mennesker. For å sikre en trygg og pålitelig drift av AI-systemer på produksjonsgulvet, må mange utfordringer adresseres i svært komplekse, heterogene, dynamiske og uforutsigbare miljøer. Spesielt er det avgjørende å håndtere utfordringer knyttet til datapålitelighet, samhandling mellom menneske og maskin, sikkerhet, transparens og forklarbarhet samtidig. Nyere fremskritt innen AI-forskning, som forbedringer i sikkerhet for dype nevrale nettverk og forklarbare AI-systemer (XAI), kombinert med nye forskningsresultater innen formal spesifisering og verifisering av AI-systemer, gir et solid grunnlag for trygge og pålitelige AI-implementeringer i produksjonslinjer. I tillegg er det viktig å ta hensyn til de juridiske og regulerende aspektene ved sikker og effektiv anvendelse av AI i industrien.
