Les dangers de l'IA et la comparaison entre les modèles propriétaires et open source

Il faut certainement être ni naïf ni catastrophiste, la réalité c'est que cette technologie elle est dangereuse par un grand nombre d'aspects, en cyber elle est dangereuse, pour tout ce qui constitue des possibilités de construction d'armes biologiques ou de manipulation du vivant, elle est dangereuse, biologie synthétique, elle est dangereuse pour toutes les technologies militaires également. Après regardons le paysage, tu as cité en fait deux mondes, c'est un peu plus complexe parce que ça mais restons au moins sur cette dichotomie. D'un côté le monde propriétaire autrement dit des gens qui développent des intelligences artificielles qui restent entre guillemets secrètes, c'est-à-dire qu'elles ne sont pas dévoilées ni en termes de poids ni en termes de codes auprès du public, ça c'est le monde comme tu le disais d'entropique, d'open AI, et puis il y a le monde open source. Si jamais on reste dans le monde propriétaire, la problématique c'est qu'on donne le pouvoir à toute petite portion de gens qui vont avoir une arme potentielle extraordinaire entre l'orme. Admettons qu'on reste dans ce monde-là, comment est-ce qu'on traite le risque ? Eh bien on le traite comme on le fait aujourd'hui, c'est-à-dire qu'on a une période de temps pendant laquelle on va dire un mois, un mois et demi, deux mois, un tout petit nombre de personnes vont utiliser ces modèles pour construire, je le dis les choses un peu rapidement, désolé, mais sans vouloir trop caricaturer, mais c'est comme ça que ça se passe, des boucliers au risque, en face de risques qui peuvent exister à l'usage de saisir, autrement dit les antidotes au risque potentiel. C'est ce qui se passe aujourd'hui, aujourd'hui dans les labos d'open AI, ils ont un modèle qui est beaucoup plus avancé que le dernier modèle Astra, qui est mis à disposition du public. À côté de ça, le monde de l'open source a une toute autre approche, elle se montre considère avec la décentralisation qu'on va être dans une course permanente et que les antidotes vont arriver au progressivement quand les risques arrivent. Dans les faits, regardons les choses en face, aujourd'hui ce n'est pas le monde open source qui est devant le monde propriétaire. En réalité, le monde open source est toujours un peu derrière, les Chinois sont toujours un petit peu derrière, même s'ils touchent au modèle frontière, en fait ils font de la distillation, c'est-à-dire qu'ils récupèrent une grande partie des données qui sont fabriquées par les modèles les plus avancés, mais qui ne sont pas les tout derniers modèles parce qu'ils n'y ont pas accès. Et puis la question qui peut se poser c'est qu'est-ce qui se passe si jamais le monde open source devient plus puissant, plus intelligent en termes de modèles que le monde propriétaire.