Qu'est que vous en pensez de l'IA ?

[Kannagi]

par quoi remplacer le sel de table ?
ChatGPT a dit :

Remplacer le sel de table peut être une bonne idée pour des raisons de santé (hypertension, rétention d’eau, etc.) ou de goût. Voici plusieurs alternatives selon les objectifs que tu vises (santé, cuisine, etc.) :

Alternatives pour réduire le sodium

....

Aucune idée du prompt ou de la discussion qu'a fait la personne, je me base sur cet article :
https://www.ouest-france.fr/societe/fai ... 87e5e5ed2a

[Tryphon]

Oui je pense pas qu'on puisse en tirer une généralité

[Kannagi]

Que ChatGPT donne des info fausse ou dangereuse ?
Cela c'est quasi certain , si tu ne fais pas attention à ces demandes , sans aucune vérification.
Il ne te donnera jamais une réponse vraiment correct , mais en soit c'est tres efficacité si tu lui demande des petites chose (comme tu as fait ) mais si tu commence à complexifier le truc , peu importe le domaine, le résultat devient tout sauf bon.
Et je pense que c'est ce qui s'est passé avec le vieux , il a du discuter , complexifier la conversation et chatGPT lui a sûrement dit "ben pour ce que tu veux ,prend du bromure de sodium"

[Tryphon]

Mais tout le monde donne des infos fausses ou dangereuses quand les questions sont mal posées. Pas certain que l'IA en donne de plus dangereuses que n'importe quel politique.

Pour le vieux, de ce que j'ai lu dans l'article du JoI donne en source de l'article que tu as posté, on ne sait pas trop ce qu'il a écrit mais il semble qu'il n'ait pas précisé que c'était pour de l'alimentaire (genre "par quoi je peux remplacer le chlorure ?" Ben pour faire de la chimie, le bromure ça se défend...)

Je pense pas qu'on puisse utiliser ça comme argument contre l'IA en politique.

[Kannagi]

J'ai pas dit qu'on peut pas l'utiliser , je disais qu'on ne peut pas la laisser décider seul.

Moi même je l'avais utiliser (hors code ou là c'est évident que ça ne peut pas faire un jeux vidé ode A à Z , assez évolué).
Sur la biologie et épistémologie , on lui disant de me citer des critiques existante , ça m'a citer un moment François-Xavier Bellamy
Donc je lui ai fait la réflexion pourquoi lui ?
Parce que "philosophe" (c'est son CV ) et qu'il avait critiquais les sciences pour défendre Raoult

Perso ça me rassure clairement pas de laisser un ChatGPT en roue libre

Les LLM agit quelque fois comme un mauvais génie j'ai l'impression , tu lui parle bien de l'histoire de sciences , ça te donne un politicien quand même

Mais tout le monde donne des infos fausses ou dangereuses quand les questions sont mal posées.

hors politicien , des personnes qui dise "je ne sais pas" ça existe , c'est tout le soucis de l'IA qui te donnera une réponse quoiqu'il arrive

[Tryphon]

Il me semble que justement, il lui arrive de reconnaître qu'il ne sait pas. C'est encore assez rare, mais je lui ai demandé de me démontrer l'hypothèse de Riemann ou l'évolution de la situation à Gaza, et il indique clairement dans ses réponses qu'il ne sait pas.

Mais oui, bien sûr qu'il faut qu'il soit supervisé (comme tout le monde d'ailleurs).

[cyberguile]

C'est surtout qu'il faut savoir réaliser un prompt et réfléchir avant de lui poser des questions pour qu'elles soient le plus précises possibles...
Perso, je suis dans le médical bah pour tout ce qui est médical pour moi-même, je n'ai plus besoin d'aller chez le médecin... ou alors juste pour lui demander de me prescrire ce qu'elle doit me prescrire... Mais c'est parce que je suis moi-même dans le médical et que je suis capable de poser des questions précises.

Prochaine fois que j'ai un souci je vous copie/collerais ma conversation avec chatgpt.

[Kannagi]

C'est surtout qu'il faut savoir réaliser un prompt et réfléchir avant de lui poser des questions pour qu'elles soient le plus précises possibles...
Perso, je suis dans le médical bah pour tout ce qui est médical pour moi-même, je n'ai plus besoin d'aller chez le médecin... ou alors juste pour lui demander de me prescrire ce qu'elle doit me prescrire... Mais c'est parce que je suis moi-même dans le médical et que je suis capable de poser des questions précises.

Pour faire un bon prompt , il faut comme tu dis être expert sois même.
Apres c'est jamais miraculeux et c'est assez rare que je dois pas repasser dessus

[on-off]

Oui, mais tu as raison, c'est quand même la base, et comme souvent pour savoir donner la consigne il faut savoir (un peu) ce qu'on attend d'avoir comme réponse, et comment elle se présente, il faut tout décomposer à l'avance pour les trucs compliqués, ça devient tout un art (sans parler de la question du contexte, qui est un sacré bazar à elle seule).