Le fondateur de l’échange de crypto-monnaies ShapeShift, Erik Voorhees, a annoncé vendredi le lancement public de sa dernière entreprise, Venice AI, un chatbot d’IA générative axé sur la protection de la vie privée.
La protection de la vie privée est une préoccupation essentielle pour l’espace des crypto-monnaies et parmi les utilisateurs d’intelligence artificielle – un facteur crucial dans la création de Venice AI, a-t-il déclaré.
« J’ai vu la direction que prenait l’IA, à savoir être capturée par de grandes entreprises technologiques qui sont en relation avec le gouvernement », a déclaré Voorhees à TCN. « Cela m’a vraiment inquiété, et je vois à quel point l’IA est puissante, à quel point elle peut avoir des conséquences – un domaine étonnant des nouvelles technologies.
Les grandes entreprises technologiques sont souvent sous la coupe du gouvernement et agissent comme des gardiens de l’IA, a déploré Voorhees, ce qui pourrait nous conduire dans un monde dystopique.
« L’antidote à cela est la décentralisation des sources ouvertes », a déclaré M. Voorhees. « Il ne s’agit pas de donner un pouvoir monopolistique à qui que ce soit.
Reconnaissant le travail important réalisé par OpenAI, Anthropic et Google pour faire avancer le domaine de l’IA générative, Voorhees a déclaré que les consommateurs devraient toujours avoir le choix d’utiliser l’IA open-source.
« Je ne veux pas que ce soit la seule option ; je ne veux pas que la seule option soit une source fermée, propriétaire, centralisée, censurée, autorisée », a-t-il déclaré. « Il faut donc qu’il y ait des alternatives. «
Voorhees a lancé la bourse de crypto-monnaies ShapeShift en 2014. En juillet 2021, l’échange a déclaré qu’il passerait à un échange décentralisé (DEX) à source ouverte, le contrôle de l’échange étant transféré de Voorhees à la DAO ShapeShift.
ShapeShift a annoncé en mars qu’elle fermerait ses portes après s’être engagée dans une bataille avec la Securities and Exchange Commission (Commission des opérations de bourse) des États-Unis. La bourse a accepté de payer une amende de 275 000 dollars et de se conformer à une ordonnance de cessation et de désistement pour mettre fin aux allégations selon lesquelles elle permettait aux utilisateurs d’échanger des actifs numériques sans s’enregistrer en tant que courtier ou bourse auprès de l’agence.
Au cours des trois années qui ont suivi, Voorhees a déclaré qu’il avait tourné son attention vers la construction d’un modèle d’IA décentralisé et sans permission.
Venice AI ne stocke pas les données des utilisateurs et ne peut pas voir leurs conversations, a déclaré Voorhees, expliquant que Venice AI envoie le texte saisi par les utilisateurs via un serveur proxy crypté à un GPU décentralisé qui exécute le modèle d’IA, qui renvoie ensuite la réponse.
« L’objectif est d’assurer la sécurité », a déclaré Voorhees.
Annoncer Venise
Aujourd’hui, nous lançons l’IA privée, sans permission, dans le but de faire progresser la civilisation sans entrave : https://t.co/m2jsJuDuXS
Annonce complète:https://t.co/lPIDpgI9K1@TryVenice
Un fil…
1/17– Erik Voorhees (@ErikVoorhees) Le 10 mai 2024
« [Le GPU] voit le texte en clair de l’invite spécifique, mais il ne voit pas toutes vos autres conversations, et Venise ne voit pas vos conversations, et rien de tout cela n’est lié à votre identité », a-t-il déclaré.
M. Voorhees reconnaît que le système n’offre pas une protection parfaite de la vie privée – il n’est pas totalement anonyme et sans connaissance – mais il estime que le modèle de Venice AI est « nettement meilleur » que le statu quo, dans lequel les conversations sont envoyées et stockées par une entreprise centralisée.
« Ils voient tout, ils ont tout pour toujours et ils le relient à votre identité », a déclaré Voorhees.
Les développeurs d’IA comme Microsoft, Google, Anthropic, OpenAI et Meta ont travaillé d’arrache-pied pour améliorer la perception qu’ont le public et les décideurs de l’industrie de l’IA générative. Plusieurs des plus grandes entreprises d’IA ont signé des initiatives gouvernementales et non lucratives et se sont engagées à développer une « IA responsable ».
Ces services permettent apparemment aux utilisateurs de supprimer l’historique de leurs conversations, mais M. Voorhees estime qu’il est naïf de penser que les données disparaissent à jamais.
« Une fois qu’une entreprise dispose de vos informations, vous ne pouvez jamais être sûr qu’elles disparaissent à jamais », a-t-il déclaré, tout en soulignant que certaines réglementations gouvernementales exigent des entreprises qu’elles conservent les informations relatives à leurs clients. « Les gens doivent partir du principe que tout ce qu’ils écrivent à OpenAI leur est destiné et qu’ils le détiennent pour toujours.
« La seule façon de résoudre ce problème est d’utiliser un service où les informations ne sont pas envoyées à un dépôt central », a ajouté M. Voorhees. « C’est ce que nous avons essayé de construire.
Sur la plateforme de Venice AI, l’historique des conversations est stocké localement dans le navigateur de l’utilisateur et peut être supprimé, que l’utilisateur crée un compte ou non. Les clients peuvent créer un compte avec un identifiant Apple, Gmail, Email, Discord, ou en connectant un portefeuille MetaMask.
La création d’un compte Venice AI présente toutefois des avantages, notamment des limites de messages plus élevées, la possibilité de modifier les messages-guides et de gagner des points – bien que les points n’aient pour l’instant aucune autre fonction que celle de faciliter le suivi de l’utilisation. Les utilisateurs à la recherche de fonctionnalités plus poussées peuvent également payer pour un compte Venice Pro, dont le prix est actuellement de 49 $ par an.
Venice Pro propose un nombre illimité d’invites textuelles, supprime les filigranes des images générées et des téléchargements de documents, et permet aux utilisateurs de « désactiver le mode sécurisé pour une génération d’images sans entrave. «
Fun with https://t.co/m2jsJuDuXS
Dans Venice (avec un compte Pro), vous pouvez modifier l' »Invite système ». Il s’agit en fait d’un mode dieu ou d’un accès root au LLM avec lequel vous interagissez.
Cela peut permettre des perspectives intéressantes que les services d’IA normaux censureraient. pic.twitter.com/qlt0xp0aC9
– Erik Voorhees (@ErikVoorhees) May 10, 2024
Malgré l’intégration du compte MetaMask, Voorhees a noté que les utilisateurs ne peuvent pas encore s’abonner à Venice Pro avec des devises numériques – mais il a dit que c’était « bientôt ». En attendant, parce qu’elle est construite sur le réseau Morpheus, la société récompense les détenteurs du jeton Morpheus.
« Si vous avez un jeton Morpheus dans votre portefeuille, vous obtenez un compte pro gratuit indéfiniment », a-t-il déclaré. « Vous n’avez même pas besoin de payer, il vous suffit de détenir un jeton Morpheus et vous avez automatiquement le compte Pro tant que ce jeton se trouve dans votre portefeuille. «
Comme ils le font avec n’importe quel outil, les cybercriminels développent constamment des moyens de contourner les garde-fous intégrés aux outils d’IA afin de les exploiter pour commettre des délits, que ce soit en utilisant des langages obscurs ou en créant des clones illicites de modèles d’IA populaires. Toutefois, selon M. Voorhees, il n’est jamais illégal d’interagir avec un calculateur de langage.
Si vous allez sur Google et cherchez « comment fabriquer une bombe », vous pouvez trouver cette information – ce n’est pas illégal de trouver cette information, et je ne pense pas qu’il soit contraire à l’éthique de trouver cette information », a-t-il déclaré. « Ce qui est illégal et contraire à l’éthique, c’est de fabriquer une bombe pour blesser des gens, mais cela n’a rien à voir avec Google.
« Il s’agit d’une action distincte de l’utilisateur. Donc Venise en particulier, ou l’IA en général, je pense qu’un principe similaire s’applique », a-t-il déclaré.
Les modèles d’IA générative tels que ChatGPT d’OpenAI ont également fait l’objet d’un examen approfondi concernant la manière dont les modèles d’IA sont formés, l’endroit où les données sont stockées et les préoccupations en matière de protection de la vie privée. Venice AI recueille des informations limitées, comme la manière dont le produit est utilisé – en créant de nouveaux chats, par exemple – mais son site web indique que la plateforme ne peut voir ou stocker « aucune donnée sur les textes ou les images partagés entre vous et les modèles d’IA. «
Pour la génération de texte, Venice utilise le modèle linguistique Llama 3, développé par Meta, la société mère de Facebook. Les clients peuvent également choisir entre deux versions de Llama 3 : Nous H2P et Dolphin 2.9.
Dans un espace Twitter après le lancement de Venice AI, Voorhees a fait l’éloge du travail accompli par Mark Zuckerberg et Meta dans le domaine de l’IA générative, notamment en rendant le puissant LLM open source.
« Meta mérite d’être félicité pour avoir dépensé des centaines de millions de dollars pour former un modèle de pointe et l’avoir mis gratuitement à la disposition du monde entier », a-t-il déclaré.
Venice permet également aux utilisateurs de générer des images à l’aide des modèles libres Playground v2.5, Stable Diffusion XL 1.0 et Segmind Stable Diffusion 1B.
À la question de savoir si Venice AI utiliserait des services d’OpenAI ou d’Anthropic, Voorhees a répondu par un non catégorique.
« Nous ne fournirons jamais Claude LLM ni les services d’OpenAI », a-t-il déclaré. « Nous ne sommes pas une enveloppe pour des services centralisés, nous sommes un moyen d’accéder explicitement et uniquement à des modèles open-source ».
Venice AI étant construite sur le réseau décentralisé Morpheus qui alimente les agents intelligents open-source, Voorhees a reconnu que les performances de Venice AI suscitaient des inquiétudes. C’est un point sur lequel ils se concentrent, a-t-il expliqué.
« Si nous voulons mettre l’IA privée et non censurée à la disposition des gens, elle doit être à peu près aussi performante que les entreprises centralisées », a déclaré M. Voorhees. « Si ce n’est pas le cas, les gens préféreront la commodité de l’entreprise centrale. «
