数学的に解決可能な問題でしょうか？複数人で作業した場合の一人当たりの作業効率。

数学の問題として、いろいろと実務を無視した計算をするのであれば、出来るでしょう。しかし実際の現場でそれをする事は無理でしょうね。
人には「特性」があり、更に言えば「組み合わせ」によりその人の能力値そのものが大きく変わります。指示者が複数だとうまくいかないし、作業者ばかりで指示者がいなければやはり上手く動かない。ツーカーの仲でスイスイ仕事を進められる組み合わせもあるし、犬猿の仲の組み合わせは作業効率が大きく下がるでしょう。
また、作業そのものの効率にしても、人は常に同じ効率で仕事は出来ません。疲労により効率が落ちるケースもあれば、慣れにより前より効率よく進められるケースもあるでしょう。
器用さを求められる作業であればシーフは戦士より作業効率が高いですが、力仕事は戦士の方がシーフより作業効率は高いでしょう。
何事も組み合わせであり、マネージャという仕事はそれを汲み取っていかに作業効率を上げるように出来るかの匙加減の腕前が重要な仕事です。
ABの組み合わせで効率100、ACの組み合わせで効率10、BCの組み合わせで効率10、こうなってしまうと数学的にそれぞれの値を求めるのは不可能でしょう。しかし、現実にはあり得える数字なのです。
時々、マネージャに「実務を無視して計算で労働力を測るタイプ」の方がいらっしゃるんですが、上手く行った試しがないですね。
いわゆる「人月管理は誰かが納得できる数字だから出す」というやつで、現場で納得してる人は居ないし、管理職もほとんどは「人月管理なんて目安だから狂う事はあるよな」と思いつつ承認してるという現実です。

たとえば、ABCDEとAFGHIでダブっているのはAさんだけす。こういった組み合わせを意図的に作って、足したり引いたりすればAさんの仕事効率を求められそうに思うのですが・・。

それぞれの作業効率が独立である場合には変数は人数分だけあることになります。
N元連立1次方程式であれば、式が N本必要です。
上記の場合は、変数が 9 ですので AからIの 9人で異なった組み合わせのデータがあれば連立方程式を解くことで解は算出できます。

求める解は有理数なので解はありそうですが、現実の作業効率を見た場合には常に一定の値のわけはありませんから連立方程式が解けない可能性も十分にあります。

No. 1の例で、各人が独立に均等に仕事ができるとして、強引に連立方程式を立てると、Aの効率を同じ文字Aで表し、BとCも同様とすると、

A+B=100
A+C=10
B+C=10

となり、これを解くとA=B=50, C=－40となります。要するに、出ないのではなく不合理な値が出るのです。そもそもの仮定に無理あるということです。

連立方程式の右辺を変えても数学的には解はあります。もっと一般には変数の個数の連立方程式が必要で係数行列式が0でなければ数学的には解がただ1つ定まります。しかし不合理な値が出ることもあります。

数学の問題が解きたいのか、それともビジネスの課題を解きたいのかで最適な方法は変わってくると思います。

各人のスキルを定数化したいということであれば、ひとりひとりを観察することによって、目標に対する達成度合いはかなりの確度で見極められると思います。

また、大勢が働いており、管理者として常にひとりひとりを見ていられないということであれば、各人に評価ポイントを理解させたうえで、相互に点数をつけさせるというのもやり方としてあると思います。
例えば、Ａさんの評価をＢ、Ｃ、Ｄ、Ｆそれぞれが８５、８０、９０、７５点と点数をつけらならば、平均をとって８２．５点としていくということです。人数が多くなればなるほど、点数のばらつきも少なくなってくると思います。（もっとも、この場合の点数は日本人の場合には、概ね、無難な評価を付けがちですので、そんなに各人に不満が発生することはないと思います。）

数学の問題としては できるかもしれませんが、現実的な話では できません。

複数人で作業する場合、どのような感じでするのかはわかりませんが、
人と人が接する場合、相性というのがあります。
それにより効率が変化する可能性があると思われるからです。

ま、そういうことがなければ、サンプルを多くとれば、だいたいは わかるでしょう。

例
ABCDで 100
ABCEで 110
になった場合、DからEに変わっただけで 10増えたとなります。
つまり、効率がアップしたととらえられます。

このような サンプルが多ければ多いほど、より的確にとらえられると思われます。