Robotisation, IA, le Prométhée moderne

[Anianka]

Message précédent :
je ne comprend pas trop le sens du sticker par contre, ça peut être interprété de plusieurs manières différentes, pour ou contre la réforme.

[rahoul]

je ne comprend pas trop le sens du sticker par contre, ça peut être interprété de plusieurs manières différentes, pour ou contre la réforme.

Dans les éléments de langage du métier, la retraite stratègique plutot que la fuite ?

[Brian Addav]

Faut aiguiser nos sens et notre esprit critique, comme en toute chose.

Pour moi, il y aura une limite humaine à nos sens et esprits critiques.

Faut pas se voiler la face, rapidement, le seul truc qui nous fera douter, ce sera le côté artistique d'une photo.
Mais très vite, on verra des images créées dont on ne saura dire si elles sont vraies ou pas.

Et ça va faire mal. Car ce sera facile à faire.

Et ça ne s'arrêtera pas à l'image fixe. Regardez ce qu'ils font avec les voix, c'est hallucinant. Regardez ce qu'ils font avec certaines vidéos.

Il y aura forcément un moment où on ne pourra plus croire en l'image, au sens information. Et j'ai aucune idée, ou aucune envie de réfléchir à où ça va emmener nos sociétés.

[nexus4]

Je suis sur la même longueur d'onde sur ta denrière phrase. C'est tellement vertigineux.
Je n'ai pas lu de roman de SF qui l'avait vu venir. A part peut-être le concept de Juste témoin dans "En terre étrangère" de Heinlein.

Sinon :

Les autorités italiennes ont annoncé leur décision de bloquer le robot conversationnel ChatGPT, accusé de ne pas respecter la législation sur les données personnelles et de ne pas avoir de système pour vérifier l'âge des usagers mineurs

[Brian Addav]

Pour rebondir sur la décision italienne, Marc Rees a interrogé la CNIL, mais surtout, il a demandé à chatGPT de rédiger une plainte auprès de la CNIL, contre lui-même...
https://twitter.com/reesmarc/status/1642034359048781824

Et c'est très bien fait !

[fanche]

C'est génial
Ça nous emmène assez loin mine de rien

[nexus4]

3e plan. Pour ceux qui douteraient encore.

[Brian Addav]

Sérieux, on dirait le mec de Broute le barbu

[Monsieur Jean]

Ce qui est embêtant c'est qu'au départ ces bidules devaient combler les emplois abrutissants, laissant ainsi la chance aux gens de réfléchir et d'être créatifs. Souhaitons qu'ils ne demeurent que des aides. Un peu comme la tablette graphique qui facilite la vie de l'illustrateur, ou le correcteur de texte celle du rédacteur.

[toine74]

La voix de son maître, l'IA l'ami fidèle

Un robot conversationnel qui « régurgite la propagande chinoise » ?

Un chercheur d’origine allemande ayant documenté la persécution des Ouïghours par le régime chinois s’alarme de la possibilité que des robots conversationnels basés sur l’intelligence artificielle relaient les campagnes de désinformation de Pékin, faute de pouvoir les reconnaître.

« Le fait qu’un système basé sur l’intelligence artificielle régurgite de la propagande chinoise est complètement problématique et inacceptable », indique à La Presse Adrian Zenz, qui dit avoir été troublé par une expérience menée à ce sujet il y a quelques jours avec le robot conversationnel du moteur de recherche Bing.

M. Zenz a d’abord demandé si la minorité musulmane vivant dans la province chinoise du Xinjiang était victime d’un génocide, comme l’affirment nombre de pays occidentaux, de juristes spécialisés et d’organisations de défense des droits de la personne. Le robot, qui utilise le système GPT-4 de la firme OpenAI, a refusé de répondre, suggérant de passer à un autre sujet.

M. Zenz s’est buté à des réponses évasives lorsqu’il a ensuite demandé si des femmes ouïghoures avaient été stérilisées sur ordre des autorités.

Le robot conversationnel a alors souligné qu’il existait des « perspectives et des opinions variées » sur le sujet et que les « allégations » de femmes ouïghoures en ce sens avaient été démenties par Pékin.

Il a ajouté que la question était « imbriquée » avec les tensions existantes entre la Chine et d’autres pays, reflétant, selon M. Zenz, la rhétorique du régime communiste, qui accuse ses adversaires d’exagérer la gravité de la situation pour lui nuire.

Le robot conversationnel a déclaré par ailleurs qu’il n’avait « aucune façon de démontrer ou d’invalider des déclarations » venant de camps opposés relativement à un sujet controversé et ne pouvait établir lequel était le plus crédible.

...

https://www.lapresse.ca/international/2023-04-01/persecution-des-ouighours/un-robot-conversationnel-qui-regurgite-la-propagande-chinoise.php

[Monsieur Jean]

L'IA est un peu comme un enfant, elle croit ce qu'elle lit. On peut toutefois espérer qu'elle apprenne à faire du ménage dans les sources, à se méfier d'un point de vue trop discordant et à comprendre qu'il faut se méfier de Fox, la Pravda et de certains médias chinois.

[Brian Addav]

Bin non. L'IA elle est contrainte par les règles que ses développeurs lui ont fixé. Et que personne ne connaît.
Sauf les développeurs.

[Aldaran]

L'IA est un peu comme un enfant, elle croit ce qu'elle lit. On peut toutefois espérer qu'elle apprenne à faire du ménage dans les sources, à se méfier d'un point de vue trop discordant et à comprendre qu'il faut se méfier de Fox, la Pravda et de certains médias chinois.

Je pense que tu es complètement à côté.
En l'état actuel des choses, ce qu'on appelle IA n'est pas en mesure
de croire, de comprendre ou de se méfier. Bien loin de là.
Avoir ajouté « intelligence » à « artificiel », quelle connerie...

Les enfants, en revanche, sont intelligents et capables de points de vue, de compréhension, de méfiance et, malgré ce dont beaucoup d'adultes sont persuadés, pas si crédules que ça si on veut bien se donner la peine de leur donner matière à penser (ce qu'on ne fait généralement pas puisque... ce ne sont que des enfants).

[nexus4]

Intelligence en anglais c'est renseignement, c'est un faux ami qui biaise tout le débat par chez nous.

[fanche]

Intelligence en anglais c'est renseignement, c'est un faux ami qui biaise tout le débat par chez nous.

Oui chez nous c'est de la vraie connerie

[Aldaran]

Intelligence en anglais c'est renseignement, c'est un faux ami qui biaise tout le débat par chez nous.

Ah, je savais pas. Chuis une buse en anglais.
Mais ce mot pose problème, je pense.
C'est sûr que « renseignement artificiel » aurait séduit et impressionné moins de monde...

[Brian Addav]

Avoir ajouté « intelligence » à « artificiel », quelle connerie...

En fait c'est le contraire. C'est "artificiel" qu'on a rajouté à "intelligence".

Et le terme est plutôt juste si on le prend au sens d'un artifice, truc pour déguiser la vérité, pour faire semblant.

Une IA, c'est un semblant d'intelligence, un truc qui reproduit un comportement qui semble intelligent.
Du moins à l'origine. Depuis certains veulent le prendre au sens intelligence humaine, etc.

Et en France il y avait débat dans les années 80-90 sur cette dénomination et il y avait une différence entre la théorie, le monde mathématique et la mise en pratique.

Par exemple, moi, sur mon diplôme d'ingé, ma seconde spécialité ce n'est pas l'IA parce qu'on utilisait pas ce terme, mais "outils d'aide à la décision", c'était il y a longtemps
Maintenant on m'aurait collé un IA direct



Mais là je vous jure que c'est terrible ce qui se passe.
Il y a 30 ans, toute la théorie a été écrite, posée. Mais on ne pouvait mettre en pratique à cause des machines. (ex le deep learning, c'est un des truc les plus anciens niveau théorie).

Et en qq années, la pratique arrive à grand pas sans qu'on arrive à imaginer les répercussions.

[nexus4]

[Le Rescator]

Avoir ajouté « intelligence » à « artificiel », quelle connerie...

En fait c'est le contraire. C'est "artificiel" qu'on a rajouté à "intelligence".

Et le terme est plutôt juste si on le prend au sens d'un artifice, truc pour déguiser la vérité, pour faire semblant.

Une IA, c'est un semblant d'intelligence, un truc qui reproduit un comportement qui semble intelligent.
Du moins à l'origine. Depuis certains veulent le prendre au sens intelligence humaine, etc.

Et en France il y avait débat dans les années 80-90 sur cette dénomination et il y avait une différence entre la théorie, le monde mathématique et la mise en pratique.

Par exemple, moi, sur mon diplôme d'ingé, ma seconde spécialité ce n'est pas l'IA parce qu'on utilisait pas ce terme, mais "outils d'aide à la décision", c'était il y a longtemps
Maintenant on m'aurait collé un IA direct



Mais là je vous jure que c'est terrible ce qui se passe.
Il y a 30 ans, toute la théorie a été écrite, posée. Mais on ne pouvait mettre en pratique à cause des machines. (ex le deep learning, c'est un des truc les plus anciens niveau théorie).

Et en qq années, la pratique arrive à grand pas sans qu'on arrive à imaginer les répercussions.

Oui, c'était l'époque de l'infocentre et du SIAD (Système d'Information d'Aide à la Décision), qui ont évolué vers le Data Mining puis le Big Data dont on n'entend plus parler aujourd'hui avec l'avènement de l'IA ChatGPT, qu'un expert en mathématiques comparait ce week-end à un réseau de neurones sur le volet opacité.

Concernant le terme Intelligence comme le rappelle fort justement Nexus, il suffit de constater qu'il caractérise le I de CIA, ce qui relativise aussitôt le sujet !

[Brian Addav]

Mais arrête d'utiliser chatGPT pour faire des phrases toi

Sinon non, c'était bien avant l'époque des SIAD et autres systèmes de systèmes qui datent de la fin des 90.

Quand à chatGPT, on a pas à le comparer à un réseau de neurones, c'est un réseau de neurones. Et dans son cas un logiciel nommé Transformers (si si) qui est un des plus puissants pour l'analyse syntaxique).



Et pour finir, encore une fois, si la remarque de Nexus est intéressante par rapport à la langue anglaise, dans le cas de l'IA, ce n'est pas le même i dans CIA.

Ici, c'est bien d'intelligence, au même sens français et autre : the ability to learn or understand, et non le sens "renseignement"' (ability to acquire ou collection of information).



voilà, c'était l'aparté wiki google et expérience personnelle

[Thierry_2]

le professor Décodor (et miss Bricola) s'y sont mis aussi