Ověřitelnost a důvěra

AI pro datové analytiky

Andy Cotgreave

Author and Speaker, Former Technical Evangelist at Tableau

Skoro průšvih...

Skoro průšvih...

AI působí sebejistě

 

• Chybné výstupy vypadají stejně upraveně jako správné
• Žádný vizuální signál říkající „zde se mohu mýlit"
• Pokud to nezkontrolujete, _vy_ odešlete chybu

Ověřování neznamená dělat to dvakrát

 

• Chybný instinkt: zopakovat práci v BI nástroji
• Přistupujte k výstupu AI jako k rychlému juniornímu analytikovi — výkonnému, ne automaticky důvěryhodnému
• Vaším úkolem: prověřit ho, ne opakovat práci

Postup ověřování

Postup ověřování

 

1. Vyberte konkrétní datový bod
2. Ručně filtrujte nezpracovaná data na tento bod
3. Ověřte výpočet pro daný bod

Postup ověřování

 

1. Zkopírujte kód nebo výstup AI
2. Vložte do jiného asistenta nebo konverzace
3. Požádejte ho, aby našel logické chyby

Postup ověřování

 

1. Proveďte obchodní test zdravého rozumu
2. Ptejte se: odpovídá tento poznatek zkušenosti?

Postup ověřování

 

1. Požádejte AI, aby spustila vlastní kód na hraničních případech (null hodnoty, duplicity, nuly)

Přizpůsobte důkladnost závažnosti

• Průzkumná nebo jednorázová práce → lehčí přístup
• Produkční dashboard, prezentace pro vedení apod. → důkladnější přístup

Člověk v procesu je součástí práce

Podlézavost AI

 

• AI má tendenci s vámi souhlasit
• Naznačte, oponujte nebo naznačte hypotézu → AI se přizpůsobí
• Obrana na straně promptu: udržujte jazyk neutrální
• Obrana na straně ověřování: buďte nejkritičtější k výsledkům, které potvrzují vaše očekávání

Pojďme si procvičit!

AI pro datové analytiky