Når du oppdaterer utvidelsen «AI Engine»
Av og til innføres det nye muligheter når AI Engine oppdateres og da kan det hende at du må gjøre en jobb i fanen «Settings» og «Chatbots» i «AI Engine». Hvis du har kjøpt Pro-lisensen av «AI Engine» kan det også hende at sider med Forms kommer med meldingen at noe er galt, men det ordnes med at du klikker på knappen som skal ordne det (alt står på skjermen på den siden det gjelder).
Om tall og penger
Mange spør om hva det koster å bruke løsningen. Utenom de kr 29 i måneden du må betalte til Domeneshop for et webhotell (hvis du ikke har det selv), så er det bruken av KI-tjenester som kan være vanskelig å beregne fordi det varierer med bruk.
Vi har noen tall per august 2024 med gpt-4o mini som vi mener er representative. Vi har regnet ut at det i snitt koster mindre enn kr 0,02 per bruker per dag, hvis du bruker gpt-4o mini på hele nettstedet. Det vil si at om det er 1 000 brukere innom praterobotene i løpet av en dag, så koster det rett under kr 20 i KI-tjenester fra OpenAI. Hvis du setter opp alt med gpt-4o må du regne med at det blir mellom 15-20 ganger dyrere, alt etter bruk. Jeg har skrevet mer om dette på www.iktogskole.no. Nå kan det godt hende at priser og tilbud endrer seg, så her må du følge med selv (stor sett blir det billigere!).
Hvor mange som kan jobbe med praterobotene samtidig er avhengig av to faktorer: 1) Hvor kraftig webtjeneren din er og 2) hvor mange tokens per minute (TPM) du får av OpenAI. Jeg er ikke erfart hva grensen for Domeneshop er, men jeg har registrert at de kjører webhotellene på rimelig kraftige tjenere. Dermed burde du få problemer med kapasiteten på TPM før du får problemer med webtjeneren.
TPM er en måleenhet på hvor mange stavelser i minuttet du får behandle i språkmodellene hos OpenAI. OpenAI har en glidende skala der du får tilgang til flere TPM etter hvert som du bruker tjenesten. En stor kommune vil raskt komme til Tier 4 og i praksis takle 10 000 samtidige brukere. Trenger du mer enn dette må du ta direkte kontakt med OpenAI for å se om du får tilgang til mer datakraft hos dem.
Har du en avtale med Microsoft om Azure OpenAI må du alltid kontakte dem direkte for å få mer enn «standard» TPM. Microsoft tilbyr TPM nok til en kommune med rundt 1500 elever, men store kommuner vil måtte be Microsoft om å få bruke med TPM.
Nå er det også mulig å bruke Anthropic sine språkmodeller med AI Engine, og de tilbyr egne avtaler til store organisasjoner.
Et vær-varsom-med-GDPR-tips
Nettstedet du har satt opp lagrer i utgangspunktet ingenting, men du kan skru på at det lagrer alt. Dette må du selv ta ansvar for, både med tanke på at tjenesten din ligger hos Domeneshop og at brukerne er informert om hva som da eventuelt lagres (og brukes av deg).
Du må også lese gjennom GDPR-sidene på nettstedet og forsikre deg om at informasjonen som står der stemmer med slik du har satt opp nettstedet ditt!