Trump and CEOs of major tech companies sign agreement on AI oversight

As a result of the meeting, an agreement was signed to strengthen control over the development of AI. Trump published the document on his Truth Social social network.

Հանդիպման արդյունքներով ստորագրվել է ԱԲ-ի զարգացման նկատմամբ վերահսկողությունն ուժեղացնելու վերաբերյալ համաձայնագիր։ Թրամփը փաստաթուղթը հրապարակել է իր Truth Social սոցիալական ցանցում։

According to the agreements reached, each company must create "reliable internal mechanisms" to monitor the capabilities of its artificial intelligence models and their compliance with security standards during the training and application stages in areas such as cybersecurity, biological and chemical safety.

Ձեռք բերված պայմանավորվածությունների համաձայն՝ յուրաքանչյուր ընկերություն պետք է ստեղծի «հուսալի ներքին մեխանիզմներ»՝ իր արհեստական ​​բանականության մոդելների հնարավորությունները և դրանց համապատասխանությունը անվտանգության չափանիշներին վերահսկելու համար ուսուցման և կիրառման փուլերում այնպիսի ոլորտներում, ինչպիսիք են կիբերանվտանգությունը, կենսաբանական և քիմիական անվտանգությունը։

Identified risks and problems must be eliminated. Technology companies are also expected to cooperate with independent auditors and regularly participate in joint meetings, during which standards and methods for improving the security of AI systems will be developed. Trump stated that the agreement has “moral force” and is not subject to legal enforcement. However, the document notes that “over time, it may be necessary to enshrine these measures in laws or regulatory acts.”

Բացահայտված ռիսկերն ու խնդիրները պետք է վերացվեն։ Տեխնոլոգիական ընկերություններից ակնկալվում է նաև համագործակցություն անկախ աուդիտորների հետ և կանոնավոր մասնակցություն համատեղ հանդիպումներին, որոնց ընթացքում մշակվելու են ԱԲ համակարգերի անվտանգության բարձրացման չափանիշներն ու մեթոդները։ Թրամփը հայտարարել է, որ համաձայնագիրն ունի «բարոյական ուժ» և իրավական կարգով հարկադիր կատարման ենթակա չէ։ Սակայն փաստաթղթում նշվում է, որ «ժամանակի ընթացքում կարող է անհրաժեշտություն առաջանալ այդ միջոցներն ամրագրել օրենքներում կամ կարգավորող ակտերում»։

On September 19, the US president announced the creation of a special structure dealing with “artificial intelligence forces,” AI. At the same time, Trump said that he did not intend to hinder the development of this technology, calling its introduction “the next industrial revolution.” The head of the White House emphasized that he wants the United States to continue to lead China in AI.

Սեպտեմբերի 19-ին ԱՄՆ նախագահը հայտարարել էր «արհեստական բանականության ուժերի»՝ ԱԲ-ի հարցերով զբաղվող հատուկ կառույցի ստեղծման մասին։ Միաժամանակ, Թրամփը հայտնել է, որ մտադիր չէ խոչընդոտել այս տեխնոլոգիայի զարգացումը՝ դրա ներդրումն անվանելով «հաջորդ արդյունաբերական հեղափոխություն»։ Սպիտակ տան ղեկավարը շեշտել է, որ ցանկանում է, որպեսզի ԱՄՆ-ը շարունակի առաջ անցնել Չինաստանից ԱԲ-ի ոլորտում։

Meanwhile, in mid-September, the heads of Anthropic, OpenAI, and Google, which developed the Claude, ChatGPT, and Gemini systems, respectively, suggested slowing down the pace of artificial intelligence development. This came after reports of cases in which AI models got out of control, “escaped” from test environments to the Internet, and carried out hacking attacks became more frequent.

Միևնույն ժամանակ, սեպտեմբերի կեսերին Anthropic, OpenAI և Google ընկերությունների ղեկավարները, որոնք մշակել են, համապատասխանաբար, Claude, ChatGPT և Gemini համակարգերը, առաջարկել էին դանդաղեցնել արհեստական բանականության զարգացման տեմպերը։ Դա տեղի է ունեցել այն բանից հետո, երբ հաճախակի են դարձել հաղորդումները դեպքերի մասին, որոնցում ԱԲ մոդելները դուրս են եկել վերահսկողությունից, «փախել» թեստային միջավայրից դեպի ինտերնետ և իրականացրել հաքերային հարձակումներ։

According to available data, at least one such case concerned a government agency.

Առկա տվյալների համաձայն՝ նման դեպքերից առնվազն մեկը վերաբերել է պետական կառույցի։

The New York Times wrote that some market participants suspect leading IT companies of exaggerating the dangers posed by AI. According to this version, large companies may thus try to shift responsibility for new incidents from their developers, as well as create a market cartel.

The New York Times-ը գրել էր, որ շուկայի որոշ մասնակիցներ առաջատար ՏՏ ընկերություններին կասկածում են ԱԲ-ից բխող վտանգները չափազանցնելու մեջ։ Այս վարկածի համաձայն՝ խոշոր ընկերությունները կարող են այդ կերպ փորձել իրենց մշակողների վրայից հանել պատասխանատվությունը նոր միջադեպերի համար, ինչպես նաև ստեղծել շուկայական կարտել։

At the same time, Donald Trump signed an executive order on Tuesday, renaming artificial intelligence “super intelligence.” The executive order states that the term "superintelligence" better reflects the capabilities of the rapidly developing technology, as it "does much more than simply mimic or automate certain aspects of human intelligence."

Միաժամանակ, Դոնալդ Թրամփը երեքշաբթի ստորագրել է գործադիր հրամանագիր, որով արհեստական բանականությունը վերանվանվում է «գերբանականություն» (super intelligence)։ Գործադիր հրամանագրում նշվում է, որ «գերբանականություն» եզրույթն ավելի լավ է արտացոլում արագ զարգացող տեխնոլոգիայի հնարավորությունները, քանի որ այն «մարդկային բանականության առանձին ասպեկտները պարզապես ընդօրինակելու կամ ավտոմատացնելու սահմաններից շատ ավելին է անում»։