Les début de Skynet

[eutoposWildcat]

Pas tout à fait, je dirais. C'est surtout un bon rappel que nous menons nos guerres avec certains interdits moraux (qui varient selon la période et la culture), souvent implicites, et qu'il est prudent de se demander comment faire en sorte que l'IA ne les outrepasse pas.

[l3crusader]

N'empêche, tout ca pour un buzz basé sur la mauvaise compréhension (ou la mauvaise restitution) d'une "expérience de pensée", donc en fait des humains qui ont écrit que l'IA ferait ceci ou cela....
Finalement, basé sur absolument rien d'autre que des peurs

En effet ; mais mieux vaut se poser ses questions la tôt, tant que ce ne sont que des expériences de pensées, plutôt que tard, pire cas quand le produit fini est en tests ou en opération.

Déjà ca coute moins cher a régler, et ensuite ca évite des conséquences trop graves (genre un vrai opérateur qui meurt).

Quant au buzz... si ça peut faire comprendre à des gens les potentiels problèmes qui découlent d' "IA" très puissantes, c'est pas plus mal en espérant que la vision caricature ne l'emporte pas.

[Jaguar]

La vision caricaturale l'a emporté depuis longtemps concernant l'IA dans le grand public.
Après ça reste normal, c'est technique et pointu, c'est un gamechanger, peu de gens comprennent, ne serait ce que dans les grandes lignes, comment ça fonctionne.

Concernant les forces armées, c'est pas tant de "notre" IA potentiellement rebelle qu'il faut se méfier mais de celle de l'adversaire qui fera parfaitement son job.
Heureusement c'est plutôt bien pris en compte par les bureaux d'étude techniques mili, ce genre de chose. Parce que le premier qui l'aura sera en mesure de mettre une branlée phénoménale aux autres...
Les médias, après bah.... Faut du clic

[Gaston]

Les craintes que suscite l'IA auprès du public en matière de pertes d'emplois ne sont pas caricaturales, mais totalement fondées. Et les scientifiques développant l'IA l'admettent : ce sont plusieurs centaines de millions d'emplois que l'IA fera disparaître (ce que confirme aussi des études menées par des économistes de la banque Goldman Sachs)... et cela provoquera une hausse massive du chômage, car ce ne sont pas les emplois que l'IA permettra de créer (pour sa conception, fabrication, etc) qui compenseront les licenciements qu'elle entraînera. Et pour ceux qui ne perdront pas leur emploi, elle pourrait entraîner des baisses de salaires. Ceci est évoqué par différents medias, dont la BBC qui, je crois, n'est pas un media complotiste : https://www.bbc.com/afrique/articles/c2lnnv9x0jzo

[Balto]

Gaston, les gens comme toi ont dit la meme chose quand on a inventé la voiture :
oulalala on va perdre plein d emplois lié au cheval, on s'en remettra pas ! Que vont devenir tous les marechals ferrant ?
Ensuite ca a été pareil quand on a inventé la radio, que vont devenir les facteurs ?
Puis quand la télé est arrivée, que va devenir le cinéma ?
Puis quand internet est arrivé, que va devenir la presse ?
Netflix arrive c'est la mort du cinéma !
A chaque fois on a parlé de chomage massif et ca n'a jamais été le cas.

Le chomage a d autres raisons bien plus importantes que ces changements.

La réalité est tres simple : ce sont les metiers qui changent, c'est simplement un transfert de compétence. Ca inquiète les craintifs, souvent les vieux, mais au final les générations suivantes s'y retrouvent toujours.

[jojo]

N'empêche, tout ca pour un buzz basé sur la mauvaise compréhension (ou la mauvaise restitution) d'une "expérience de pensée", donc en fait des humains qui ont écrit que l'IA ferait ceci ou cela....
Finalement, basé sur absolument rien d'autre que des peurs

En effet ; mais mieux vaut se poser ses questions la tôt, tant que ce ne sont que des expériences de pensées, plutôt que tard, pire cas quand le produit fini est en tests ou en opération.

Déjà ca coute moins cher a régler, et ensuite ca évite des conséquences trop graves (genre un vrai opérateur qui meurt).

Quant au buzz... si ça peut faire comprendre à des gens les potentiels problèmes qui découlent d' "IA" très puissantes, c'est pas plus mal en espérant que la vision caricature ne l'emporte pas.

Ce n'était pas encore des IA, plutôt des automatismes, mais on a le cas en 2003 du Hornet et du Tornado GR4 abattus par un Patriot, un F-16CJ échaudé avait déjà tiré son HARM en auto-défense

Candiloro explains: “We had started to get concerned about the Patriot in automated mode after the Tornado was lost, and when the Hornet was downed we really started to question what exactly the Army was doing with the weapon. Our concerns travelled ‘up the chain’, and that was when the Army changed the Patriot’s engagement parameters from auto to manual, which meant that a human operator had to input the direction to fire. That gave us more peace of mind, but unfortunately it had cost three lives to get this change made.”

https://theaviationgeekclub.com/blue-bl ... ttery-oif/

https://medium.com/war-is-boring/that-t ... 89d7d03b7d

[Gaston]

Cette confiance dans l'IA que tu manifestes, Balto, me semble tenir de la naïveté ! Les gens qui craignent ces futurs 300 millions d'emplois perdus ne sont pas des guignols, mais des économistes travaillant pour un organisme reconnu... de plus, ta façon de dire "les gens comme toi" est arrogante, méprisante et insultante... comme si ces craintes étaient injustifiées... je n'ai qu'une chose à dire : on verra à qui l'avenir donnera raison... mais avec l'IA, je ne pense pas que l'optimisme soit de mise ! Et remercie les "vieux" : sans eux, tu ne serais même pas né, car il a bien fallu que tu aies des parents, des grands-parents, etc... c'est insensé, ce mépris manifesté par certains envers ceux qui sont plus âgé qu'eux, et surtout, c'est profondément détestable ! Et dire que ce sont les mêmes qui se prétendent contre les discriminations... alors qu'ils n'hésitent pas à discriminer ceux qui sont plus âgés qu'eux en les insultant ! Je commence à en avoir plus que MARRE, de cette attitude !

[Jaguar]

Gaston tu vomis ta haine des jeunes à chaque fois que c'est possible y compris lorsque ça n'a aucun rapport alors bon hein... Un peu comme ici où tu t'enflamme en faisant dire à Balto ce qu'il n'a pas dit concernant les vieux. Regarde la poutre dans ton oeil avant de t'occuper de la paille dans celle du voisin. (Ou plus prosaïquement : balaye déjà devant ta porte)
Ceci étant dit et pour remonter plus haut j'ai parlé de vision caricaturale, pas de crainte. La crainte est légitime et si je suis en phase avec le discours de Balto sur "le progrès" de façon générale et historique, concernant l'IA je serais moins affirmatif car il y a réellement une rupture.
Au delà de la "compréhension" de l'IA qui est carricaturale, et les médias ont comme souvent une énorme part de responsabilité, ce qui justifie je pense l'inquiétude est ceci :
La robotisation des chaînes de production a tué énormément d'emplois. La technologie ayant de meilleurs "muscles" que nous, il a donc fallu s'adapter, comme le dit Balto, et les gens se sont tournés autant que faire se peut vers des professions intellectuelles, terrain sur lequel nous gardions une sérieuse avance par rapport aux machines. Vers le tertiaire quoi. (Plus de 70% des actifs dans la majorité des pays européens aujourd'hui)
Du coup, les machines surpassent nos muscles, et elles sont à l'aube de dépasser notre bonne vieille cervelle. Que nous reste-t-il ?
Ça, ça fait peur, et je le conçois.
Je ne me risquerai pas à faire de pronostic sur le future entre l'hypothèse "Balto" (pour rappel: on s'adaptera, comme toujours), et l'hypothèse "Gaston" (pour rappel : c'est la merde ça va tout péter !)
Sûrement, comme souvent, la voie entre les 2 qui est la bonne, si et seulement si le réchauffement climatique, la fin de l'âge d'or ded matières premières à bas coût car utilisées comme si illimitées et tout les autres trucs dans le même genre ne viennent pas siffler la fin du match avant.

L'exercice de pensée auquel s'est prêté, à priori, l'armée US sur l'IA guerrière, concernant l'emploi et l'adaptation de notre société, on peut aussi le faire, perso je trouve ça hyper intéressant, mais essayons de raisonner et d'argumenter, de réfléchir un peu loin !

[Gaston]

Gaston tu vomis ta haine des jeunes à chaque fois que c'est possible y compris lorsque ça n'a aucun rapport alors bon hein... Regarde la poutre dans ton oeil avant de t'occuper de la paille dans celle du voisin. (Ou plus prosaïquement : balaye déjà devant ta porte)

Quand les jeunes respecteront leurs aînés, j'aurai un peu plus de considération pour eux. Mais quand je vois le climat sociétal actuel, on est très loin d'en prendre le chemin ! Si on remonte dans les profondeurs de ce forum, je ne crois pas être celui qui a déclenché les hostilités en premier, mais n'avoir fait que répondre au mépris de certains qui utilisent des termes ou ont des attitudes dégradants, méprisants, insultants, arrogants et discriminatoires envers leurs aînés, et ce, en me mettant à leur niveau. Je veux bien regarder la poutre dans mon oeil... mais à condition qu'eux le fassent aussi ! Trop facile, quand ça ne doit aller que dans un sens...

[Jaguar]

Mince, j'ai cru te moucher avec mon "c'est celui qui le dit qui l'est", mais tu l'a emporté haut la main avec ton "toi-même d'abord". Flûte, me voilà bien embêté. Tu vois, à me suivre sur le terrain des embrouilles de récréation, tu viens de resdecendre en âge

Sinon, je me suis embêté à essayer d'écrire un truc intelligent après ça, n'hésite surtout pas à en parler aussi, car il se pourrait que tu apportes des éléments/arguments intéressants si tu fais un effort

[MMB]

Lorsque les pères s'habituent à laisser faire les enfants, lorsque les fils ne tiennent plus compte de leur parole, lorsque les maîtres tremblent devant leurs élèves et préfèrent les flatter, lorsque finalement les jeunes méprisent les lois parce qu'ils ne reconnaissent plus au-dessus d'eux l'autorité de rien ni de personne, alors c'est là en toute beauté et toute jeunesse le début de la tyrannie.

Platon

[Balto]

de plus, ta façon de dire "les gens comme toi" est arrogante, méprisante et insultante... comme si ces craintes étaient injustifiées... je n'ai qu'une chose à dire : on verra à qui l'avenir donnera raison... mais avec l'IA, je ne pense pas que l'optimisme soit de mise ! Et remercie les "vieux" : sans eux, tu ne serais même pas né, car il a bien fallu que tu aies des parents, des grands-parents, etc... c'est insensé, ce mépris manifesté par certains envers ceux qui sont plus âgé qu'eux, et surtout, c'est profondément détestable ! Et dire que ce sont les mêmes qui se prétendent contre les discriminations... alors qu'ils n'hésitent pas à discriminer ceux qui sont plus âgés qu'eux en les insultant ! Je commence à en avoir plus que MARRE, de cette attitude !

Je n'ai été ni insultant ni rien de tout ce que tu dis.
Mais du coup, autre avantage de l'IA, c est qu'elle préviendra les gens comme toi quand vous oubliez vos pilules, pour que vous ne soyez pas trop désagréables quand vous lisez un post de travers.

[Jaguar]

Lorsque les pères s'habituent à laisser faire les enfants, lorsque les fils ne tiennent plus compte de leur parole, lorsque les maîtres tremblent devant leurs élèves et préfèrent les flatter, lorsque finalement les jeunes méprisent les lois parce qu'ils ne reconnaissent plus au-dessus d'eux l'autorité de rien ni de personne, alors c'est là en toute beauté et toute jeunesse le début de la tyrannie.

Platon

Sympa.
J'aime bien celle là aussi, moins lyrique et plus lacunaire :

"Chaque génération se croit plus intelligente que la précédente et plus sage que la suivante." G.Orwell

[Gaston]

Sinon, je me suis embêté à essayer d'écrire un truc intelligent après ça, n'hésite surtout pas à en parler aussi, car il se pourrait que tu apportes des éléments/arguments intéressants si tu fais un effort

En fait, je n'ai pas grand-chose à ajouter à ce que tu dis. Tu résumes extrêmement bien ce qui en inquiète beaucoup, et je suis d'accord avec ce que tu dis à ce sujet.

Par le passé, les nouvelles technologies ont créé de nouveaux secteurs économiques entiers, permettant la création de grandes quantités de nouveaux emplois (l'industrie automobile ou l'industrie aéronautique, par exemple, mais il y en a beaucoup d'autres...). Mais l'IA est maintenant une menace, non seulement parce qu'elle peut remplacer les humains pour les emplois dits physiques, mais parce qu'elle peut aussi le faire pour les emplois dits intellectuels ou créatifs (avec ChatGPT, elle peut par exemple remplacer les avocats, les comptables ou les journalistes). Tu poses très justement la question : que nous restera-t-il pour gagner notre vie ? Ben... il ne nous restera plus grand-chose, puisque l'IA pourra même remplacer les travailleurs des économies tertiarisées (je ne sais pas si le mot que j'utilise est le mot juste, mais je pense que tu comprends ce que je veux dire). Et surtout, parce que ceux qui seront créés pour elle ne compenseront largement pas les emplois perdus à cause d'elle, très loin de là, car ici, il ne s'agit plus de métiers qui changent, ou de transfert de compétences, comme le croit Balto, mais de leur disparition sans remplacement par des activités différentes, tout simplement. Je doute donc que les générations suivantes s'y retrouvent...

C'est à cause de ceci je suis plutôt un tenant du "c'est la merde, ça va tout péter", car une fois que la population se retrouvera sur le carreau sans plus rien pour gagner sa vie, alors qu'elle a besoin d'un revenu pour tout simplement survivre (les besoins de base tels que se nourrir ou se loger ne sont nulle part gratuits...), ça risque de devenir violent. Alors, bon... vu que, selon la perception de certains, je suis un "vieux" et que je serai à la retraite dans 2 ans, je pourrai m'en foutre comme d'une guigne, car je ne verrai pas ces développements se mettre en place : je serai mort et enterré avant... mais je ne puis m'empêcher de trouver ces développements de l'IA très inquiétant, parce que contrairement à ce que certains pourraient croire, je suis solidaire avec ceux qui travailleront une fois que j'aurai terminé de le faire (si ce n'était pas le cas, je ne bosserais pas dans un syndicat de travailleurs...).

Car vois-tu, selon moi, l'immense erreur de tous nos systèmes d'assurances sociales et de retraite est qu'ils ont été basés sur les fruits du travail que sont les salaires et la masse salariale (dès lors, comment les financer si les salaires et la masse salariale diminuent massivement grâce à l'IA ???), alors qu'on aurait dû concevoir ces systèmes en incluant le plus important des fruits du travail : la productivité ! Car si cela avait été le cas, on pourrait faire cotiser l'IA (mais aussi auparavant, on aurait pu faire cotiser l'automatisation, la mécanisation, l'informatisation et la robotisation) grâce aux gains de productivité qu'elle génère, ce qui compenserait plus que largement la perte de financement dûe à la diminution du nombre des travailleurs entraînant celle des salaires et de la masse salariale. Et si elle avait été incluse dans ce financement, je ne crois pas trop m'avancer en disant que les institutions sociales et de retraite croulerait sous le pognon, permettant ainsi aux laissés pour compte ainsi qu'aux retraités de vivre dignement sans perte de revenu par rapport à leur vie active.

[Olaf_[RET]]

Je voudrais essayer de réconcilier les membres qui tiennent des propos conflictuels .
Moi-même , il m'est arrivé de poster des messages à l'emporte-pièce , puis , plus tard ( " la nuit porte conseil " , dit-on ) de les regretter et de les supprimer quand c'était possible .
Je pense que le post de Balto dans lequel il associe les " vieux " à des " craintifs "est en effet sujet à controverse .

D'un côté , je le comprends car de nos jours la vieillesse évoque surtout des maladies invalidantes comme la sénilité , les maladies de Parkinson et d'Alzheimer .
Mais dans l'Antiquité , le grand âge était associé à la sagesse , fruit d'une longue expérience des relations humaines .
il y avait l'adage : " si jeunesse savait , si vieillesse pouvait " .

Dans le Chine confucianniste , l'accent était mis sur la codification des relations sociales , qui comprenait une hiérarchisation suivant l'âge , un individu devant montrer du respect envers un autre plus âgé .

Je pense que la jeunesse n'est pas une garantie contre l'imbécilité . Il n'y a qu'à voir le grand nombre de vidéos de " jackass " sur le net...Le summum étant sans doute la pratique du balcooning , qui consiste , probablement après avoir bu une bouteille d'alcool fort , à se jeter dans le vide depuis la balcon d'un hôtel en visant la piscine , mais en atterrissant un peu à côté...

[jojo]

Je voudrais essayer de réconcilier les membres qui tiennent des propos conflictuels .
Moi-même , il m'est arrivé de poster des messages à l'emporte-pièce , puis , plus tard ( " la nuit porte conseil " , dit-on ) de les regretter et de les supprimer quand c'était possible .
Je pense que le post de Balto dans lequel il associe les " vieux " à des " craintifs "est en effet sujet à controverse .

D'un côté , je le comprends car de nos jours la vieillesse évoque surtout des maladies invalidantes comme la sénilité , les maladies de Parkinson et d'Alzheimer .
Mais dans l'Antiquité , le grand âge était associé à la sagesse , fruit d'une longue expérience des relations humaines .
il y avait l'adage : " si jeunesse savait , si vieillesse pouvait " .

Dans le Chine confucianniste , l'accent était mis sur la codification des relations sociales , qui comprenait une hiérarchisation suivant l'âge , un individu devant montrer du respect envers un autre plus âgé .

Je pense que la jeunesse n'est pas une garantie contre l'imbécilité . Il n'y a qu'à voir le grand nombre de vidéos de " jackass " sur le net...Le summum étant sans doute la pratique du balcooning , qui consiste , probablement après avoir bu une bouteille d'alcool fort , à se jeter dans le vide depuis la balcon d'un hôtel en visant la piscine , mais en atterrissant un peu à côté...

Et peut-être même que dans l'antiquité Balto aurait été considéré comme ayant un grand âge
D'ailleurs si j'en crois les profils, il n'y a même pas une demi-génération d'écart avec Gaston.

Donc c'est plutôt une différence de point de vue qu'un conflit de génération.

[larsenjp]

En attendant le SNPL prend les devants
https://www.air-journal.fr/2023-06-07-u ... 49230.html

[Jaguar]

Aujourd'hui, ils ont raison. Demain, ils auront tort. Ce qui m'attriste, c'est le plus beau métier du monde, mais l'argument de la sécurité ne tiendra malheureusement pas longtemps. :'(

[larsenjp]

L'argument de la sécurité peut déjà être contesté. La plupart des crashs sont liés à des erreurs humaines et une IA pourrait donc être considérée comme plus fiable. D'autant qu'une IA ne serait pas soumise à la fameuse viscosité mentale qui apparait généralement dans ces cas là et qui peut empêcher le cerveau humain de reconnaitre la situation et de prendre les bonnes décisions.

[Jaguar]

En vrai, même pas besoin d'une IA pour remplacer un pilote. Un "simple" algo suffit.
D'ailleurs un (bon) pilote, la formulation est provocatrice mais je pense assez juste, EST un algorithme.
La sécurité aérienne procédurise absolument tout, le normal, l'anormal, l'imprévu, en tentant de tout redonder, prévoir. Pour un Sully qui sauve son avion en improvisant, on a 50 pilotes, si ce n'est plus, qui ont sauvé leur avion en suivant leur check-list d'urgence, en étant donc de parfait algorithmes....

[larsenjp]

Certes mais il y a quand même des exceptions où rien ne marche comme prévu et où l'équipage est complètement perdu avec une vision totalement fausse de la situation réelle... Je pense au cas assez emblématique du AF447. Une IA aurait-elle "compris" (et l'aurait-elle compris à temps) que tirer à fond sur le manche n'était pas la solution?

[jojo]

Je pense que certains ne s’imaginent pas toutes les conneries qu’un équipage doit gérer.
Les algorithmes ne sauront pas les traiter ni même les détecter s’ils n’ont pas été prévus.

http://aviateurs.e-monsite.com/pages/19 ... t-moi.html

http://aviateurs.e-monsite.com/pages/19 ... moi-2.html

La vraie vie ce n’est pas FS2020…
L’équipage est la meilleure garantie de sécurité d’un avion car ayant le cul dedans, c’est le premier concerné.

[Jaguar]

Je lirai au calme Jojo la j'ai pas le temps, ca sera très intéressant j'en suis sûr. Et sur ta conclusion je te rejoins dans l'intention... Mais à moyen terme je pense que ça ne sera malheureusement plus vrai.
Beaucoup ici sous estiment aussi la puissance d'un algorithme

[ironclaude]

...
L’équipage est la meilleure garantie de sécurité d’un avion car ayant le cul dedans, c’est le premier concerné.

[OPIT]

L'argument de la sécurité peut déjà être contesté. La plupart des crashs sont liés à des erreurs humaines et une IA pourrait donc être considérée comme plus fiable. D'autant qu'une IA ne serait pas soumise à la fameuse viscosité mentale qui apparait généralement dans ces cas là et qui peut empêcher le cerveau humain de reconnaitre la situation et de prendre les bonnes décisions.

La plupart des crashs sont liés à des erreurs humaines, mais combien ont été évités grâce à une présence humaine ? Est-ce qu'une IA a la faculté de faire aussi bien dans ces derniers cas ?
Parce que si c'est pour éviter des accidents et ne pas en éviter d'autres, il va falloir prouver que la position du curseur est avantageuse. Pour l'instant ce n'est qu'un voeu pieux et quand on voit la réaction des IA dès qu'on sort un peu du cadre, il y a de quoi vouloir rester piéton...

@jojo +1