Twitter เสนอท้าทายหัวเพื่อท้าทายอของ AI ปราดเปรียวได้ยุทธวิธี

Twitter เสนอท้าทายหัวเพื่อท้าทายอของ AI ปราดเปรียวได้ยุทธวิธี

Twitter มีวิธีใหม่ในการกำจัดอคติของปัญญาประดิษฐ์: จ่ายเงินให้บุคคลภายนอกเพื่อช่วยในการค้นหาปัญหา เมื่อวันศุกร์ที่ผ่านมา ผู้ผลิตแอปข้อความสั้นได้ให้รายละเอียดเกี่ยวกับการแข่งขันชิงรางวัลใหม่ ซึ่งเสนอเงินรางวัลสูงถึง $3,500 สำหรับการแสดงให้ Twitter เห็นว่าเทคโนโลยีจัดการภาพถ่ายอย่างไม่ถูกต้องอย่างไร

เมื่อต้นปีนี้ Twitter ได้ยืนยันปัญหาในกลไกการครอบตัดรูปภาพอัตโนมัติ โดยสรุปว่าซอฟต์แวร์ดังกล่าวชอบคนผิวขาวมากกว่าคนผิวดำ กลไกการครอบตัดซึ่ง Twitter เรียกว่า “อัลกอริธึมความโดดเด่น” ควรนำเสนอส่วนที่สำคัญที่สุดของรูปภาพเมื่อคุณเลื่อนดูทวีต

ตัดบทสนทนา
สมัครรับจดหมายข่าวมือถือของ CNET เพื่อรับข่าวสารล่าสุดเกี่ยวกับโทรศัพท์และบทวิจารณ์
เพิ่มอีเมลของคุณ
ใช่ ฉันต้องการรับจดหมายข่าว CNET Insider เพื่อให้ฉันทราบข้อมูลล่าสุดเกี่ยวกับ CNET
ลงทะเบียนฉันขึ้น!
การลงทะเบียนแสดงว่าคุณยอมรับข้อกำหนดการใช้งานและรับทราบแนวทางปฏิบัติด้านข้อมูลในนโยบายความเป็นส่วนตัวของเรา คุณสามารถยกเลิกการสมัครได้ตลอดเวลา

แนวทางของ Twitter ในการจัดการกับอคติของอัลกอริธึม โดยขอให้ผู้เชี่ยวชาญและผู้สังเกตการณ์จากภายนอกศึกษารหัสและผลลัพธ์ ได้สร้างสรรค์นวัตกรรมเกี่ยวกับค่าหัวจุดบกพร่อง ซึ่งในอดีตเคยใช้ในการรายงานช่องโหว่ด้านความปลอดภัย Twitter กล่าวว่าความเอนเอียงเป็นอุตสาหกรรมแรกและหวังว่า บริษัท อื่น ๆ จะปฏิบัติตาม การแข่งขันมีวัตถุประสงค์เพื่อช่วยในความพยายามภายในของ Twitter

“มันจุดประกายให้ผู้คนจำนวนมากขึ้นมีส่วนร่วมซึ่งอาจไม่มีทรัพยากรและเวลาว่าง” Rumman Chowdhury ผู้อำนวยการโครงการ Machine Learning Ethics, Transparency and Accountability ของ Twitter กล่าว “เราต้องการเริ่มปลูกฝังและสร้างชุมชนแฮกเกอร์ AI ที่มีจริยธรรม”

การจัดการกับอคติอัลกอริธึมได้กลายเป็นข้อกังวลที่สำคัญมากขึ้นสำหรับเทคโนโลยี AI อาจทำให้เกิดปัญหาได้ รวมถึงการดูหมิ่นประชากรบางกลุ่มหรือเสริมสร้างภาพลักษณ์ หากซอฟต์แวร์ไม่ได้รับการฝึกฝนอย่างมีประสิทธิภาพ โปรเจ็กต์ของ Twitter ได้รับการออกแบบมาเพื่อสร้างความแข็งแกร่งให้กับมาตรฐานเกี่ยวกับแนวคิดต่างๆ เช่น การทำร้ายที่เป็นตัวแทน

มวยปล้ำกับ AI
หัวหน้า Google AI กล่าวว่าชื่อเสียงที่กระทบต่อหน่วยเป็น ‘ของจริง’ หลังจากความวุ่นวาย
ข้อผิดพลาดในการจดจำใบหน้าไม่ดีต่อธุรกิจ: พวกเราส่วนใหญ่ไม่ใช่คนผิวขาว
ในที่สุด Twitter จะตรวจสอบบัญชีเพิ่มเติม: วิธีรับเช็คสีน้ำเงิน
AI ได้ปฏิวัติการประมวลผลด้วยการสอนอุปกรณ์ถึงวิธีการตัดสินใจโดยอิงจากข้อมูลในโลกแห่งความเป็นจริง แทนที่จะใช้กฎการเขียนโปรแกรมที่เข้มงวด ที่ช่วยงานยุ่งๆ เช่น การทำความเข้าใจคำพูด การคัดกรองสแปม และการระบุใบหน้าของคุณเพื่อปลดล็อกโทรศัพท์

อย่างไรก็ตาม อัลกอริธึมที่ขับเคลื่อน AI อาจมีความทึบและสะท้อนปัญหาในข้อมูลการฝึก นั่นนำไปสู่ปัญหาอย่าง Google ที่เข้าใจผิดว่าคนผิวดำเป็นกอริลล่าในภาพถ่าย การแก้ไขปัญหา AI เป็นสิ่งสำคัญเนื่องจากเราพึ่งพาเทคโนโลยีเพื่อดำเนินชีวิตดิจิทัลของเราให้มากขึ้น นอกจากนี้ยังสามารถมีความสำคัญภายในบริษัท: Google รับทราบว่าการจัดการปัญหาจริยธรรม AI ทำร้ายชื่อเสียงของโปรแกรม

ค่าหัวอคติอัลกอริธึมของ Twitter นั้นคล้ายกับโปรแกรมที่บริษัทเทคโนโลยีหลายแห่งเสนอให้ค้นหาปัญหาด้านความปลอดภัยในผลิตภัณฑ์ของตน ตัวอย่างเช่น Google ได้จ่ายเงิน 29 ล้านดอลลาร์สำหรับช่องโหว่ 11,055 รายการที่พบใน Android, Chrome และผลิตภัณฑ์อื่นๆ ของ Google ในช่วงทศวรรษที่ผ่านมา

Startup HackerOne กำลังช่วยดำเนินการแข่งขันด้านอคติของอัลกอริทึมของ Twitter กฎการแบ่งปันและการยอมรับการส่ง หมดเขตส่งผลงาน 23.59 น. PT ในวันที่ 6 ส.ค. และ Twitter จะประกาศผู้ชนะในวันที่ 8 ส.ค.

ข้อบกพร่องของ AI สามารถใช้ประโยชน์ได้หลายวิธี รวมถึงภาพที่ออกแบบมาเป็นพิเศษที่สามารถเปลี่ยนซอฟต์แวร์เด่นของ Twitter ให้เป็นผู้สมรู้ร่วมคิดโดยไม่รู้ตัวของการโจมตีจากภายนอก นักวิจัยอาจต้องการตรวจสอบอัลกอริทึมอื่นๆ เพื่อหาอคติ เช่น ทวีตที่ Twitter เลือกที่จะเน้นหรือละเว้นจากฟีดของคุณ ในขณะนี้ ค่าหัวอคติของ Twitter นั้นจำกัดอยู่ที่อัลกอริธึมการครอบตัดเท่านั้น