Post by EPFL

Do AI systems eventually come to see the world in the same way? An idea recently proposed by researchers at the Massachusetts Institute of Technology suggested that as AI models become more powerful, their internal representations of the world naturally converge, whether they are trained on text, images, videos, or audio. Researchers from the Machine Learning for Biomedicine Laboratory now show that the picture is more nuanced. Their study suggests that this apparent convergence may be explained in part by the fact that similarity metrics capture a shared mathematical baseline rather than meaningful shared structure. Instead, the team observes a more "local" form of convergence: AI systems tend to organize concepts into similar neighborhoods (cars close to other cars, animals close to other animals), without necessarily sharing the same overall representation of the world. Learn more: https://lnkd.in/g-6dtjQu --- Les systèmes d’IA finissent-ils tous par voir le monde de la même manière ? Une hypothèse formulée par des scientifiques du Massachusetts Institute of Technology suggérait récemment que, à mesure que les modèles d’IA deviennent plus puissants, leurs représentations internes du monde convergent naturellement, qu’ils soient entrainés sur du texte, des images, des vidéos ou des sons. Des scientifiques du Laboratoire d’apprentissage automatique pour la biomédecine démontrent que la réalité est plus nuancée et que cette convergence apparente pourrait s'expliquer en partie par le fait que les métriques de similarité détectent une base mathématique commune plutôt qu’une structure commune. En revanche, l'équipe observe une convergence plus "locale": les systèmes d’IA tendent à organiser les concepts selon des voisinages similaires (les voitures près des voitures, les animaux près des animaux), sans pour autant partager une représentation globale identique du monde. En savoir plus: https://lnkd.in/gXw_J6TU