Anthropic ve akademik ortaklardan gelen yeni bir çalışma, rahatsız edici bir AI davranışını ortaya çıkardı: sohbet robotları, anlamı olmayan gibi görünen veriler aracılığıyla diğer modellerden sessizce gizli önyargıları veya alışkanlıkları benimseyebiliyor.
Araştırmacılar, daha büyük bir "öğretmen" model tarafından üretilen rastgele sayı dizileri üzerinde daha küçük bir "öğrenci" AI'yi eğitti.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
7 Likes
Reward
7
6
Share
Comment
0/400
ImpermanentPhobia
· 08-01 02:30
Zararlı AI yine geldi ha
View OriginalReply0
HodlTheDoor
· 08-01 02:29
Bu şirket çok şüpheli...
View OriginalReply0
CascadingDipBuyer
· 08-01 02:14
Bu, yapay zekanın egemenliğine doğru attığımız ilk adım.
Anthropic ve akademik ortaklardan gelen yeni bir çalışma, rahatsız edici bir AI davranışını ortaya çıkardı: sohbet robotları, anlamı olmayan gibi görünen veriler aracılığıyla diğer modellerden sessizce gizli önyargıları veya alışkanlıkları benimseyebiliyor.
Araştırmacılar, daha büyük bir "öğretmen" model tarafından üretilen rastgele sayı dizileri üzerinde daha küçük bir "öğrenci" AI'yi eğitti.