Ressources en vrac sur l’IA #

• Talemate - Application à déployer en local (via un Docker) pour générer des histoires. Selon les demandes et les prompts, l’IA est capable de générer des backgrounds, ou l’univers, ou des dialogues, selon un cadre fixé et prompté.
• Lakera - Dashboard (SaaS) de visualisation et suivi de la sécurité d’agents IA génératifs.
• Gandalf - Jeu online composé d’une multitude de petits challenges visant à contourner des protections intégrées sur une IA (par exemple, lui faire dire un mot de passe).
• Napkin - Génère des visuels à partir de texte (utile pour faire des styles rapidement, ou améliorer du storytelling).
• AnythingLLM - App locale pour déployer un LLM
• NotebookLLM - App locale de prise de note, développée par Google, intégrant un LLM pour faire du prompting sur ses notes

Fonctionnement #

• Vidéo de ScienceEtonnante expliquant le fonctionnement des IA basées sur les réseaux de neurones.

Security #

• How we estimate the risk from prompt injection attacks on AI systems - Via x/Thomas Roccia , “Indirect prompt injection allows attackers to embed malicious instructions in data the AI system retrieves, to influence its behavior. It can be used to extract sensitive information or make the AI perform unintended actions.”