Selon Foresight News, les startups d'IA Flower AI et Vana ont conjointement lancé un modèle de langage distribué nommé Collective-1. Ce modèle fonctionne sur des GPU répartis dans plusieurs endroits à travers le monde, contournant les dépendances traditionnelles des centres de données, et intègre des données privées d'utilisateurs provenant de plateformes comme X, Reddit et Telegram. Actuellement, Collective-1 a 7 milliards de paramètres, ce qui est significativement plus petit que les modèles leaders comme ChatGPT et Claude. Cependant, Flower AI se prépare à entraîner un modèle avec 30 milliards de paramètres et prévoit de publier une version avec près de 100 milliards de paramètres dans l'année.
Flower AI a également collaboré avec des universités en Chine et au Royaume-Uni pour développer l'outil Photon, visant à améliorer l'efficacité de l'entraînement distribué. Cette approche devrait permettre aux petites et moyennes entreprises et aux pays à ressources limitées de participer au développement de modèles fondamentaux. Vana fournit aux utilisateurs des outils d'autorisation de données, leur permettant de décider de manière indépendante de l'utilisation des données et de bénéficier des droits associés. Les experts estiment que ce modèle pourrait orienter l'industrie de l'IA vers une direction plus ouverte et décentralisée.